ولد ببغداد، ونشأ بها، وقرأ الأدب، والطب، وسمع بها من أبي القاسم إسماعيل بن أحمد ابن السمرقندي. ثم صار إلى الموصل واستوطنها إلى حين وفاته، وحدث بها وعمر حتى كبر وعجز عن الحركة فلزم منزله بسكة أبي نجيح قبل وفاته بسنين. وكان الناس يترددون إليه ويقرؤون عليه الحديث والأدب والطب، وكان فاضلاً، أجاز لنا من مستقره بالموصل.
أنبأنا أبو الحسن علي بن أحمد بن هبل، قال: أخبرنا أبو القاسم إسماعيل ابن أحمد بن عمر ابن السمرقندي قراءةً عليه وأنا أسمع ببغداد في شهر ربيع الآخر من سنة ثمانٍ وعشرين وخمس مئة، قال: أخبرنا أبو محمد عبد العزيز بن أحمد بن محمد الكتاني لفظاً، قال: أخبرنا أبو محمد عبد الرحمن بن أبي نصر وأبو القاسم تمام بن محمد الرازي وغيرهما، قالوا: أخبرنا أبو القاسم علي بن يعقوب بن أبي العقب، قال: حدثنا أبو زرعة عبد الرحمن بن عمرو الدمشقي، قال: حدثنا علي بن عياش الألهاني، قال: حدثنا شعيب بن أبي حمزة، عن نافع، عن ابن عمر، قال: قال رسول الله صلى الله عليه وسلم : ((الخيل في نواصيها الخير إلى يوم القيامة)).
سئل أبو الحسن بن هبل عن مولده، فقال: ولدت ببغداد بباب الأزج بدرب ثمل في ثالث عشري ذي القعدة من سنة خمس عشرة وخمس مئة.
وتوفي بالموصل ليلة الأربعاء ثالث عشر محرم سنة عشرٍ وست مئة، ودفن بها بمقبرة المعافى بن عمران، رحمه الله وإيانا.