ارتبطت مكتبة الحرم المكي الشريف بوجود المصاحف والكتب الدينية ووجودها في المسجد الحرام قديم قدم الإسلام، ولذا يمكن القول إن تأسيسها ارتبط بصفة عامة بمجالس الفتيا والذكر التي كان الصحابة والتابعون يعقدونها في المسجد الحرام وأن نتائج تلك المجالس نتجت منها هذه المكتبة. ومع أن كتب التاريخ لم تذكر وجود مكتبة داخل المسجد الحرام إلا أنه يستنتج وجودها فقدسية المكان كانت حافزاً لخلفاء المسلمين وحكامهم وموسريهم ومؤلفيهم التقرب بوقف المصاحف والكتب وحفظها إما في دواليب داخل المسجد الحرام أو بالمدارس المجاورة أو الأربطة المجاورة كما نجد أن غالبية المؤرخين يتفقون على أن نواة مكتبة الحرم المكي الشريف كانت موجودة في بداية الخلافة العباسية زمن المهدي العباسي عام 160هجرية وأنه كانت توجد قبتان أنشأهما الخليفة محمد المهدي بن أبي جعفر المنصور إحداهما للسقاية والأخرى للمحفوظات سميت قبة بيت المحفوظات كانت تحفظ بها المصاحف وبعض الكتب الدينية. وأوضح تقرير صادر عن مكتبة الحرم المكي الشريف"أن هناك شواهد كثيرة تؤكد وجود تلك الكتب في المسجد الحرام فنجد كتب التاريخ قد أوردت أن الأمير شرف الدين أنشأ مكتبة عام 367 هجرية، وكذلك ما ورد في كتاب الأزرقي من أن سيل عام 417 هجرية دخل المسجد الحرام ووصل إلى خزائن الكتب وأتلف منها الشيء الكثير". كما تأسست مكتبات وقفية يبدو أنها تهتم بالدرجة الأولى بمصنفات أهل المذهب المالكي وكذلك في عام 588 هجرية أوقفت مجموعة محمد بن الفتوح المكناس إمام المالكية، وكان الشيخ ثابت أبو الفتوح الزمزمي قيماً على الكتب الموجودة بالحرم عام 887 ميلادية كما أورده الحضراوي في نزهة الفكر. وفي عام 1262 هجرية أمر السلطان العثماني بإصلاح القبتين وجعل إحداهما مكتبة، ويعتبر ذلك بداية لجمع جميع الكتب الموزعة في أطراف الحرم والمساجد المجاورة والأربطة في مكان واحد وأطلق عليها"كتبخانةالسليمانية أو كتبخانة المجيدية"وتوجد بالمكتبة إلى الآن تلك اللوحة. وفي إطلالة عام 1301 هجرية أزيلت تلك القبتان وانتقلت المكتبة إلى باب دريبة ثم إلى عمائر الصفا عام 1383 هجرية ثم إلى المبنى الذي شيدته حكومة خادم الحرمين الشريفين الملك فهد بن عبدالعزيز - رحمه الله - عام 1406 هجرية، وفي عام 1412 هجرية عندما أمر خادم الحرمين الشريفين الملك فهد - رحمه الله - بتوسعة الحرم المكي الشريف أزيل المبنى وانتقلت المكتبة إلى مقر لها بشارع المنصور ثم انتقلت إلى مقرها الجديد بحي العزيزية بمكةالمكرمة وما زالت به حتى الآن. ويعود تسميتها باسم مكتبة الحرم المكي الشريف إلى عام 1357 هجرية عند ما أمر الملك عبدالعزيز - رحمه الله - بتسميتها بهذا الاسم وأمر كذلك بتشكيل لجنة من علماء مكةالمكرمة لدرس أوضاعها وتنظيمها بما يتفق ومكانتها. وقد نمت مجموعاتها بما أهدي إليها من مطبوعاته - رحمه الله - وبما ضم إليها من المكتبات الخاصة والتي يزيد عددها على 40 مكتبة، وكانت المكتبة تتبع إدارياً مديرية المعارف العامة في وزارة الحج والأوقاف حتى عام 1385 هجرية حيث أصبحت تتبع الرئاسة العامة لشؤون المسجد الحرام والمسجد النبوي. وبين التقرير"أن مكتبة الحرم المكي الشريف توسعت وأصبحت تضم عدداً من الأقسام ومنها قسم الخدمة المكتبية يعنى باستقبال المطالعين على اختلاف مستوياتهم وجنسياتهم ويقدم الخدمة لهم وتزويدهم بما يحتاجون إليه من كتب ومراجع والتي يبلغ مجموعها أكثر من 100 ألف عنوان، وقسم المخطوطات ويقدم خدماته للباحثين والمحققين، ويضم القسم 6523 مخطوطة أصلية و358 مخطوطاً غير عربي و2314 مخطوطاً مصوراً ومجموعة من الرسائل العلمية وفهارس ومخطوطات المكتبات العربية والعالمية وقسم الدوريات ويقوم بعرض الصحف والمجلات المحلية والعربية الحديثة والقديمة على المطالعين والزوار كما يقوم بحفظ نسختين منها للمكتبة وتجليد نسخة منها للحفظ ويربو عدد العناوين به إلى قرابة ألف عنوان. وتضم المكتبة مكتبة صوتية تقوم بسجيل الأشرطة للزوار والمطالعين في المواعظ والخطب والدروس التي تلقى في المسجد الحرام والتي يربو عددها على 80 ألف شريط كما يوجد بها قسم الميكروفيلم ويقوم بتمكين الزوار والمطالعين من مشاهدة الأفلام الخاصة بالمخطوطات والصحف القديمة على أجهزة القراءة الموجودة في القسم ويضم أكثر من 5671 فيلما، ويوجد بالمكتبة كذلك جناح الحرمين الشريفين ويقوم بعرض كل ما له علاقة بالحرمين الشريفين من صور قديمة أو حديثة وخرائط وكتب ومخطوطات أمام المطالعين والزوار. كما حرصت المكتبة على وجود قسم للنساء يقوم بخدمة المطالعات والزائرات على فترتين صباحية ومسائية، وتضم مكتبة الحرم المكي الشريف مكتبة الكترونية لتمكن رواد المكتبة من الاطلاع على أمهات الكتب المحفوظة على السي- دي وذلك لمواكبة المستجدات وتقديم خدمة سريعة لهم. وتحتضن مكتبة الحرم المكي الشريف عدداً من النوادر من مخطوطات ودوريات فهي غنية بمقتنياتها الدينية والعلمية والمرجعية ويوجد بها مخطوط لأقدم المصاحف وهو مصحف عثمان بن عفان رضي الله عنه ومن المخطوطات النادرة الموجودة بها الغيلانيات لمحمد بن محمد بن إبراهيم بن غيلان البزار وهو أقدم مخطوط في المكتبة ويعود تاريخ نسخه إلى أوائل القرن الخامس الهجري وهو أحد عشر جزءاً في مجلد واحد. كما يوجد بها الفروسية والمناصب الحربية لنجم الدين حسين بن الرماح المتوفى عام 780هجرية ومسند الموطأ للغافقي المتوفى عام 381 هجرية، ويعود تاريخ نسخه إلى عام 693 هجرية ومجموعة البحرين في زوائد المعجمين لابن حجر الهيتمي المتوفى عام 807 هجرية. كما يوجد بالمكتبة مجموعة من المطبوعات الحجرية النادرة أهمها ديوان بن النبيه عام 1280هجرية وكتاب قصيدة كاظم الرشتي طبع عام 1269هجرية وتاريخ الخميس في أحوال أنفس النفيس لمحمد الديار بكري طبع عام 1283هجرية والباكورة العربية في شرح متن الأجرومية لمحمد بن إسماعيل الأنصاري طبع عام 1288 هجرية والأيس المفيد للطالب المستفيد طبع عام 1296 هجرية. وتستقبل مكتبة الحرم المكي الشريف روادها من المطالعين والباحثين والمحققين وطلبة العلم من الساعة السابعة صباحاً حتى الثانية والنصف ظهراً ومن الساعة الثالثة عصراً إلى الساعة العاشرة مساء ما عدا يوم الجمعة، ويبلغ المعدل اليومي لروادها أكثر من 200 زائر من مطالع وباحث ومحقق وطالب علم، إضافة إلى الوفود الطلابية ويتضاعف عدد الزوار خلال مواسم الحج وشهر رمضان ومواسم العمرة.