وهي التي تأسست عام 1352هـ، باقتراح من السيد عبيد مدني، حينما كان مديراً لأوقاف المدينة المنورة لتكون مرجعاً لطلاب العلم، وقد وافقت الحكومة السعودية على اقتراحه بعد أن رفعه إلى المسؤولين، وافتتحت المكتبة أول ما أنشئت، في مؤخرة المسجد في الجهة الشمالية الغربية للحرم على يسار الداخل من باب عمر رضي الله عنه في الطابق العلوي(1)، وكان أول مدير لها السيد أحمد ياسين الخياري(2) الذي ضم بمساعيه بعض مكتبات المدينة، وجعل نواتها الأولى مكتبة والده الشيخ ياسين الخياري ونقلها بدواليبها من منزله إليها ورتبها ونظمها وفهرسها وعني بها عناية بالغة(3)
(1) انظر : محمد السيد الوكيل، المسجد النبوي عبر التاريخ (( موسوعة المدينة التاريخية 4 )) ( جدة : دار المجتمع للنشر والتوزيع، 1409هـ =1988م )، 198، عبد القدوس الأنصاري، آثار المدينة المنورة ( المكتبة السلفية )، 119-121.
(2) ولد بالمدينة عام 1321هـ، حفظ القرآن الكريم في كتاتيب الحرم النبوي، وتعمق في دراسة القراءات السبع والعشر والأربعة المتممة لها، أكمل دراسته في الجامع الأزهر ويعد من علماء الحرم النبوي، قام بالتدريس في مدرسة النجاح، عين عضواً وسكرتيراً ونائباً لرئيس لجنة تنظيم مكتبات المدينة المنورة، ومديراً لمكتبة الحرم النبوي ثم مديراً لمكتبة المحمودية، وعين عضواً في مجلس الأوقاف وعمل في المحكمة الشرعية بطريق الانتداب للبحث في سجلات المحكمة الشرعية الكبرى عن الأوقاف المغمورة العائدة نظارتها إلى مديرية الأوقاف بالمدينة وفي الحرم النبوي الشريف مندوباً عن الأوقاف للإشراف على ترميم أبواب الحرم النبوي، له مؤلفات كثيرة تجاوزت الخمسين مؤلفا، وعين قبل وفاته بعام واحد مديراً عاماً لمكتبات المدينة المنورة، وتوفي عام 1380هـ. ( انظر : أحمد ياسين خياري، تاريخ معالم المدينة المنورة قديماً وحديثاً، مرجع سابق ).
(3) عبد القدوس الأنصاري، مرجع سابق، 119-121.