تضم مكتبة المسجد النبوي كنوزاً من المعرفة والمخطوطات النادرة التي يحرص العديد من زوار الحرم الشريف بعد فراغهم من أداء الصلاة بالمسجد على زيارتها، للاطلاع على ما تحويه المكتبة من تراث معرفي إسلامي كبير، ومخطوطات تاريخية نادرة، إلى جانب الكثير من المؤلفات المختلفة التي يستفيد منها طلبة العلم الشرعي وطلاب الدراسات العليا في إعداد رسائلهم الأكاديمية. وتحوي المكتبة أقساماً متعددة، منها قاعة المطالعة التي تشمل على قاعات مطالعة للرجال وأخرى للنساء وأخرى للأطفال، وقسم آخر للمخطوطات يقع بالدور الثاني من باب عثمان بن عفان رضي الله عنه، بالإضافة إلى قسم المكتبة الصوتية الذي يُعنى بحفظ ما يُلقى في المسجد النبوي الشريف من الدروس والخطب والصلوات، إلى جانب قسم فني يختص بتجليد وترميم وتعقيم المخطوطات. كما يوجد في المكتبة أقساما للفهرسة والتصنيف والتزويد والدوريات والمستودع، وقسم آخر للكتب النادرة يُعنى بحفظها من حيث قدم تاريخ الطبع أو الزخرفة والأشكال والصور ومكتبة رقمية، وأقسام أخرى للبحث والترجمة والإعارة. ويعود تاريخ إعادة تأسيس المكتبة إلى عام 1352ه باقتراح من مدير الأوقاف آنذاك عبيد مدني، وكان أول مدير لها هو أحمد ياسين الخياري، وذكر صاحب كتاب خزائن الكتب العربي أن مكتبة الحرم تكونت قبل حريق المسجد النبوي في 13 رمضان عام 886 ه ، حيث احترقت خزائن المصاحف والكتب في ذلك الحريق، وكانت تضم الخزائن كتباً نفيسة ومصاحف عظيمة. كما تشمل المكتبة على بعض الكتب التي يعود تاريخ وقفها إلى قبل تاريخ إنشاء المكتبة، مثل مكتبة الشيخ محمد العزيز الوزير التي أُوقفت عام 1320ه، وهي من الكتب التي أُدخلت في المكتبة بعد تأسيسها، فيما كانت هناك بعض الكتب في الروضة الشريفة يعود تاريخها قبل تاريخ تأسيس المكتبة.