عثمان عنه بعض الأمر، فأشخصه إلى ما قبله وأسمعه، ولم يأذن له في الخروج من المدينة فأقام بها ثلاث سنين حتى مات، وكان موته قبل مقتل عثمان. ولما مرض مرضه الذي مات فيه مرضه أزواج النبي صلى الله عليه وسلم وأصحابه، وأتاه عثمان يعوده فقال له: كيف تجدك يا أبا عبد الرحمن؟ قال: بخير. قال: ما تشتكي؟ قال: ذنوبي. قال: فما تتمنى؟ قال: رحمة ربي. قال: ألا أدعو لك طبيبا؟ قال: الطبيب أمرضني. قال: أفلا آمر لك بعطائك، وكان قد قطعه عنه لموجدته عليه، فقال: منعتنيه وأنا محتاج إليه وتعطينيه وأنا مستغن عنه. قال: يكون لولدك. قال: يرزقهم الله. فدفن بالبقيع وصلى عليه عمار بن ياسر، وكلم الزبير عثمان في عطائه فدفعه إليه لولده وعياله.

قال: وكان ابن مسعود يخطب بالكوفة فيقول: الشقي من شقي في بطن أمه والسعيد من وعظ بغيره، وكان يعلم الرجال القرآن ثم يتحول فيعلم النساء وكان يطرد النساء يوم الجمعة من المسجد ويقول: عليكن ببيوتكن فإن هذا ليس لكن بمجلس.

وروي عن ابن مسعود أنه قال: إياكم وفضول القول فبحسب المرء من الكلام ما بلغ من حاجته.

وقال أبو اليقظان: قتل ابن مسعود أبا جهل. وكان مع رسول الله صلى الله عليه وسلم ليلة الجن وكان صاحب سواده أي أسراره، وصاحب وساده، وصاحب نعليه ورحلته، وصلى عليه الزبير، وإليه أوصى، وكان النبي صلى الله عليه وسلم آخي بينه وبينه.

ومن ولد عبد الله بن مسعود: أبو عبيدة بن عبد الله بن مسعود.