ذكر وفاته رحمه الله تعالى:
جلس جدي يوم السبت سابع شهر رمضان تحت تربة أم الخليفة المجاورة لمعروف الكرخي. قال المصنف رحمه الله: وكنت حاضرا، فأنشد أبياتا، وقطع عليها المجلس، وهي: [من الكامل]
الله أسأل أن يطول مدتي وأنال بالإنعام ما في نيتي
لي همة في العلم ما في مثلها وهي التي جنت النحول هي التي
خلقت من القلق العظيم إلى المنى دعيت إلى نيل الكمال فلبت
كم كان لي من مجلس لو شبهت حالاته لتشبهت بالجنة
أشتاقه لما مضت أيامه عطلا وتعذر ناقة إن حنت
يا هل لليلات بجمع عودة أم هل على وادي منى من نظرة¬1
قد كان أحلى من تصاريف الصبا ومن الحمام مغنيا في الأيكة
فيه البديهات التي ما نالها خلق بغير مخمر ومبيت
برجاحة وفصاحة وملاحة يقضي لها عدنان بالعربية
وبلاغة وبراعة ويراعة ظن النباتي أنها لم تنبت
وإشارة تبكي الجنيد وصحبه في رقة ما قالها ذو الرمة
ونزل من المنبر، فمرض خمسة أيام، وتوفي ليلة الجمعة بين العشاءين في داره بقطفتا.
وحكت لي والدتي -رحمها الله تعالى- أنها سمعته يقول قبيل موته: أيش أعمل بطواويس -يرددها- قد جبتم لي هذه الطواويس.
وحضر غسله شيخنا ضياء الدين بن سكينة، وضياء الدين ابن الجبير وقت السحر، واجتمع أهل بغداد، وغلقت الأسواق، وجاء أهل المحال، وشددنا التابوت بالحبال، وسلمناه إليهم، فذهبوا به إلى تحت التربة مكان جلوسه، فصلى عليه ابنه أبو القاسم علي اتفاقا، لأن الأعيان لم يقدروا على الوصول إليه، ثم ذهبوا به إلى جامع المنصور فصلوا عليه، وضاق بالناس، وكان يوما مشهودا، لم يصل إلى حفرته بمقبرة الإمام أحمد بن حنبل