عن عائشة قالت: لبث رسول الله صلى الله عليه وسلم في بني عمرو بن عوف بضع عشرة ليلة، وأسس المسجد الذي أسس على التقوى، وصلى فيه رسول الله صلى الله عليه وسلم، ثم ركب راحلته وسار يمشي معه الناس، حتى بركت عند مسجد رسول الله صلى الله عليه وسلم بالمدينة وهو يصلي فيه رجال من المسلمين، وكان مربدا للتمر لسهل وسهيل غلامين يتيمين في حجر أسعد بن زرارة، فقال رسول الله صلى الله عليه وسلم حين بركت به: «هذا المنزل إن شاء الله» . ثم دعا الغلامين فساومهما بالمربد ليتخذه مسجدا، فقالا: بل نهبه لك يا رسول الله. ثم بناه مسجدا، وطفق ينقل معهم اللبن في بنائه، ويقول:
هذا الحمال لا حمال خيبره
هذا أبر ربنا وأطهره
اللهم إن الخير خير الآخره
فارحم الأنصار والمهاجره
عن أنس قال: قدم رسول الله صلى الله عليه وسلم (المدينة) فنزل في حي يقال لهم بنو عمرو بن عوف.
فأقام النبي صلى الله عليه وسلم فيهم أربع عشرة ليلة، ثم أرسل إلى بني النجار، فجاؤوا بالسيوف، وكأني أنظر إلى النبي صلى الله عليه وسلم على راحلته وأبو بكر ردفه، وملأ بني النجار حوله، حتى ألقى بفناء أبي أيوب، وكان يحب أن يصلي حيث أدركته الصلاة، ويصلي في مرابض الغنم، وإنه أمر ببناء المسجد، فأرسل إلى بني النجار فقال: «يا بني النجار ثامنوني بحائطكم هذا» .
قالوا: لا والله لا نطلب ثمنه إلا إلى الله.
قال أنس: فكان فيه ما أقول لكم، كان فيه قبور المشركين وخرب، وفيه نخل، فأمر النبي صلى الله عليه وسلم بقبور المشركين فنبشت، ثم بالخرب فسويت وبالنخل فقطع، فصفوا النخل قبلة المسجد، وجعلوا عضادتيه حجارة، وجعلوا ينقلون الصخر وهم يرتجزون، والنبي صلى الله عليه وسلم معهم وهو يقول:
اللهم لا خير إلا خير الآخره
فاغفر للأنصار والمهاجره