هي أكبر مكتبات المدينة وأنفسها، اشتهرت بمجموعاتها النفيسة لاسيما المخطوطات منها، بالإضافة إلى تنظيمها والعناية بها، وقد أثنى عليها كثير من المؤرخين والرحالة، منهم ابن موسى الذى قال فيها : (( كتبخانة المرحوم شيخ الإسلام عارف حكمت بك التي لا نظير لها في أرض الحجاز، لكثرة ما فيها من الكتب النفيسة والخدمة والمجلدين والموظفين دائماً ))(1)، ومنهم البتوني الذي وصفها في رحلته أنها : (( آية في نظافة مكانها، وحسن تنسيقها وترتيب كتبها ))(2)، وكذلك العلامة محمد كردعلى الذي قال : (( أهم خزائن الكتب في المدينة خزانتان مكتبة السلطان محمود ومخطوطاتها ومطبوعاتها … وربما كانت خير مكتبة في البلاد العثمانية كلها بنظامها وانتقاء أمهاتها، مكتبة شيخ الاسلام ففيها نحو عشرة آلاف مجلد ))(3).