تاريخ إنشاء المكتبة التابعة للرئاسة العامة لشؤون المسجد الحرام والمسجد النبوي يعود وفق ما أوردته المصادر التاريخية للقرن الثاني الهجري. تعد مكتبة الحرم المكي الشريف من أهم مكتبات العالم الإسلامي وأعرقها، فهي تقع في أقدس بقعة وأشرف مكان، حيث مهبط الوحي ومهوى أفئدة المسلمين قاطبة. مكتبه الحرم المكي الشريف الان. مسجد البيعة.. مكانة دينية وتاريخية بمشعر منى ويعود تاريخ إنشاء المكتبة التابعة للرئاسة العامة لشؤون المسجد الحرام والمسجد النبوي، وفق ما أوردته المصادر التاريخية إلى القرن الـ2 الهجري، في عهد الخليفة العباسي محمد المهدي حوالي عام ١٦١هـ. ومنذ بداية العهد السعودي الزاهر اهتم المؤسس الملك عبدالعزيز بن عبدالرحمن آل سعود، بهذه المكتبة وشكَّل لجنة من العلماء لدراسة أحوالها، وأطلق عليها عام ١٣٥٧هـ مكتبة الحرم المكي الشريف، وأهدى إليها مجموعةً من الكتب، وحظيت برعاية وعناية كبيرتين منذ ذلك الوقت حتى اليوم. وكانت نواة مكتبة الحرم المكي إحدى قباب الحرم التي خُصصت في ذلك الوقت لحفظ المصاحف التي ترد إلى الحرم المكي، وبمرور الأيام نمت مجموعاتها حتى انتقلت إلى خارج الحرم، وتعد المرة الأولى التي تُنقل فيها إلى خارج الحرم عام 1375هـ، وكانت تابعة لوزارة الحج "وزارة الحج والعمرة حالياً" حتى عام 1385هـ.
وتحتوي مكتبة الحرم المكي الشريف على عدد من الإدارات والأقسام، في مقدمتها: الإدارة العامة لمكتبة الحرم المكي الشريف، وتقوم على التوجيه والمتابعة المستمرة لتحقيق الخدمات المطلوبة كافة من مختلف إدارات المكتبة، وبحث سبل التطوير واستقطاب الكوادر البشرية المتخصصة والمميزة. مكتبه الحرم المكي الشريف مباشره. ورسمت المكتبة طموحها في ثلاث نقاط وهي: 1-الرؤية والريادة عالمياً في مجال المكتبات وإثراء المعرفة، وتوفير مصادر البحث والمعلومات بمختلف وسائل التقنية الحديثة، 2-الرسالة: بإبراز الصورة المشرقة لرسالة الحرمين الشريفين، ورفع كفاءة وفاعلية الخدمات المعرفية والمعلوماتية وتسجيل جودتها واستثمار الوسائل والتقنيات الحديثة كافة. 3-الهدف الاستراتيجي: بتطوير منظومة العمل في المجالات كافة؛ الإعلامية والعلمية والخدمية والإدارية والفنية والتدريبية والتقنية، وتحقيق التنمية المستدامة وفق رؤية الوطن (2030) والرؤية التطويرية للرئاسة (2024). إدارة الخدمات المكتبية: وتحرص إدارة الخدمات المكتبية على تهيئة المكان وتوفير مختلف فروع العلم وصنوف المعرفة، لتمكين الباحثين والمطالعين وطلبة العلم من الاستفادة منها بأرقى وسيلة ممكنة، وتضم الإدارة قاعة الشيخ ناصر الراشد للاطلاع والقراءة، وفيها أكثر من (65000 مجلد) بعناوين مختلفة منها اللغة العربية والشريعة والسيرة النبوية والعلوم الاجتماعية والعلوم التطبيقية والعلوم البحتة وغيرها.
وللمرة الأولى انتقلت إلى خارج الحرم.. وكان ذلك في عام 1375هـ، وكانت تابعة لوزارة الحج حتى عام 1385هـ، وبعدها انضمت إلى الرئاسة العامة للإشراف الديني بالمسجد الحرام، حتى غيرت اسمها الرئاسة العامة لشؤون المسجد الحرام والمسجد النبوي، وأصبحت مكتبة عامة تقدم خدماتها لطلاب وطالبات العلم. توسعة الحرم تنقلت المكتبة في عدة مواقع، فمن موقع مستأجر ضمن حي جرول، بعد توسعة الحرم المكي، إلى موقع حديث خاص بها أمام باب الملك عبد العزيز، غير ان توسعة الحرم المكي الشريف أدت إلى إزالة المبنى فجرى نقلها إلى جرول، ثم استؤجر لها مقر في شارع المنصور.