بمرو، وسمع العلم بخراسان وغيرها من البلاد، وكتب الكثير، وصنف وجمع، وذاكر العلماء، وكان معدودًا في حفاظ الحديث، وقدم بغداد دفعات وحدث بها عن أبي بكر محمد بن إسحاق بن خزيمة، ومحمد بن إسحاق بن إبراهيم السراج، وعبد الله بن محمد بن شيرويه وعبد الله بن محمود المروزي السعدي، ومحمد بن الفضل السمرقندي، وعمر بن محمد بن بجير الهمداني، ومحمد بن زبان المصري، ومحمد بن الحسن بن قتيبة العسقلاني، وعبد الله بن محمد بن سلم المقدسي، وعبد الله بن أحمد الأهوازي، وإبراهيم بن يوسف الهسنجاني، والحسين بن عبد الله بن يزيد الرقي، وعبد الله بن زيدان البجلي، والمفضل بن محمد الجندي وغيرهم.

حدث عنه من القدماء الرفعاء: أبو الحسن علي بن عمر الدارقطني: وأبو حفص عمر بن أحمد بن شاهين، وغيرهما، ومن بعدهما مثل: أبي الحسن محمد بن أحمد بن رزق البزاز، وأبي القاسم عبد الرحمن بن محمد السراج، وأبي علي الحسن بن الحسين بن دوما النعالي وغيرهم.

وكان ابن رميح أقام بـ "صعدة" من بلاد اليمن زمانًا طويلًا، ثم ورد بغداد حدود سنة خمسين وثلاثمائة، وخرج منها إلى نيسابور، فأقام