وقيل: إنه دخل المدينة ليلة جمعة، ومات من ليلته، فتسامع الناس بقدوم يحيى وبموته، فاجتمع العامة، وجاء بنو هاشم، فقالوا: نخرج له الأعواد التي غسل عليها النبي صلى الله عليه وسلم، فكره العامة ذلك، فكثر الكلام، فقال بنو هاشم: نحن أولى بالنبي صلى الله عليه وسلم منكم، وهو أهل أن يغسل عليها، فأخرج الأعواد، فغسل عليها.
وفي رواية: فأخرجوا له سرير النبي صلى الله عليه وسلم، فحمل عليه فصلى عليه الوالي، ثم صلي عليه مرارا. وتوفي يحيى وسنه سبع وسبعون سنة.
قال إبراهيم بن المنذر: فرأى رجل في المنام النبي صلى الله عليه وسلم وأصحابه مجتمعين، فقيل لهم: ما لكم مجتمعين؟ فقال: جئت لهذا الرجل أصلي عليه، فإنه كان يذب الكذب عن حديثي. وقيل: إنه لما مات يحيى بن معين نادى إبراهيم بن المنذر: من أراد أن يشهد جنازة المأمون على حديث رسول الله صلى الله عليه وسلم فليشهد.
وعن ابن سيرين قال: رأيت يحيى بن معين في المنام فقلت: ما فعل الله بك؟ قال: قربني، وأدناني، وزوجني ثلاث مئة حوراء، فقلت: بماذا؟ فأخرج شيئا من كمه، فقال: بهذا، يعني: الحديث. زاد في حديث آخر مثله: وأدخلني عليه مرتين.
قال بعضهم: رأيت النبي صلى الله عليه وسلم فيما يرى وهو نائم، ويحيى بن معين قائم على رأسه يذب عنه