وبسمرقند عن الإمام محمد بن نصر المروزي وأضرابه، وبالسغد عن أهل أربنجن والكشانيّة والدبوسية وغيرها، وبكسّ عن محمد بن عبد بن حميد، ويترمذ عن أحمد بن صالح، وببلخ عن عبد الصمد بن الفضل وكذا عن سائر أهل خراسان، وببغداد عن الكديمي وأشباهه، وبالبصرة عن الفضل بن حباب الجمحي وأشكاله وكذا بالأبلة، وبالموصل عن أبي يعلى الموصلي وكذا بواسط والرقة ودمياط، وبمكة عن علي بن عبد العزيز وبكر بن سهل الدمياطي وغيرهما، وبصنعاء اليمن، وبمصر، والشام في حلب، وحمص، ودمشق، وصيداء، ورأس العين، ونصيبين، وحرمليّة، ومنبج، وأنطاكية، والمصيصة، وقيس، وصور، والرافقة، وبيروت، وسائر بلادها، وبيت المقدس، والرملة، وطرسوس، وخيلة، وبلاد أخر هي غير مشهورة عندنا.
ولد ليلة النصف من شعبان سنة تسع وخمسين ومائتين، ومات يوم الخميس الحادي عشر من جمادى الآخرة سنة ست وأربعين وثلاثمائة، عاش خمسا وثمانين سنة وعشرة أشهر إلا أربعة أيام.
ومن كراماته أن سارقا نقب بيته فدخله ورزم ما وجد من الأمتعة، وأخرج الرزمة من بيته ودخل حانوت خبّاز في السويقة، فبقي على المكان إلى الصباح والرزمة موضوعة بين يديه حتى خرج الناس، فوجدوا جدار الشيخ مثقوبا، ووجدوا السارق في حانوت الخباز والرزمة موضوعة بين يديه، ولا تطيعه رجلاه في المشي، فلما أخذوه وأزعجوه ليذهبوا به [105 أ] إلى السجن أطاعته رجلاه، فمشى على رجليه إلى السجن، فلما أخبر به أبو يعلى أرسل إلى الأمير وأخبر أنه أبرأه عن الخصومة فخلّى سبيله، ولطمه ديلمي في فتنة وقعت بنسف وأغاروا على الدور، فقطعت يمين الديلمي من يومه، ورأى أبو جعفر محمد بن علي بن الحسين في المنام كأن شخصا واقفا على رأس سكة أبي يعلى وهو يقول: من أراد الطريق المستقيم فعليه بأبي يعلى ويشير بيديه إلى داره، وكان ذلك في حياته.
وقال عبد الحميد بن المعتصم النسفي: كان أبو الطيّب المصعبيّ وزير السلطان قد أشخص أبا عثمان سعيد بن إبراهيم إلى الحضرة بسبب تعصّب القرامطة وكنّا نخاف عليه سطوته خوفا شديدا، وكان ذلك في شهر رمضان وكان أبو يعلى يختم في مسجده ليلة سبع وعشرين، وكان الناس يرغبون في دعائه ويجتمع خلق كثير.