لم ينقطع محمد عن مخالطة أهل مكة والأخذ معهم بنصيب في الحياة العامة، وكانوا يومئذ في شغل بما أصاب الكعبة؛ فقد طغى عليها سيل عظيم انحدر من الجبال فصدع جدرانها بعد توهينها. وكانت قريش من قبل ذلك تفكر في أمرها. فهي لم تكن مسقوفة، وكانت لذلك عرضة لانتهاب السارقين ما تحتوي من نفائس. لكن قريشا كانت تخشى إن هي شيدت بنيانها ورفعت بابها وسقفتها أن يصيبها من رب الكعبة المقدسة شر وأذى. فقد كانت تحيط بها في مختلف عهود الجاهلية أساطير تخيف الناس من الإقدام على تغيير شيء من أمرها، وتجعلهم يعتبرون ذلك بدعا. فلما طغى عليها السيل لم يكن بد من الإقدام ولو في شيء من الخوف والتردد. وصادف أن رمى البحر إذ ذاك بسفينة قادمة من مصر مملوكة لتاجر رومي اسمه باقوم فحطمها. وكان باقوم هذا بناء على شيء من العلم بالنجارة. فلما سمعت قريش بأمره خرج الوليد بن المغيرة في نفر من قريش إلى جدة، فابتاعوا السفينة من الرومي وكلموه في أن يقدم معهم إلى مكة ليعاونهم في بناء الكعبة؛ وقبل باقوم. وكان بمكة قبطي يعرف نجر الخشب وتسويته، فوافقهم على أن يعمل لهم ويعاونه باقوم.

ثم إن قريشا اقتسمت جوانب أربعة، لكل قبيلة جانب تقوم بهدمه وبنائه. ولقد ترددوا قبل هدمها مخافة أن يصيبهم أذى، ثم أقدم الوليد بن المغيرة في شيء من الخوف، فدعا آلهته وهدم بعض الجانب من الركن اليماني. وأمسى القوم ينتظرون ما الله فاعل بالوليد. فلما أصبح ولم يصبه شيء أقدموا يهدمون وينقلون الحجارة، ومحمد معهم، حتى انتهى الهدم إلى حجارة خضر ضربوا عليها بالمعول فارتد عنها؛ فاتخذوها أساسا للبناء فوقه، ونقلت قريش أحجار الجرانيت الأزرق من الجبال المجاورة وبدأت في البناء. فلما ارتفع إلى قامة الرجل وآن أن يوضع الحجر الأسود المقدس في مكانه من الجانب الشرقي، اختلفت قريش أيهم يكون له فخار وضع الحجر في هذا المكان. واستحر الخلاف حتى كادت الحرب الأهلية تنشب بسببه.

تحالف بنو عبد الدار وبنو عدي أن يحولوا بين أية قبيلة وهذا الشرف العظيم؛ وأقسموا على ذلك جهد أيمانهم. حتى قرب بنو عبد الدار جفنة مملوءة دما وأدخلوا أيديهم فيه توكيدا لأيمانهم، ولذلك سموا «لعقة الدم». فلما رأى أبو أمية بن المغيرة المخزومي ما صار إليه أمر القوم، وكان أسنهم وكان فيهم شريفا مطاعا، قال لهم: اجعلوا الحكم فيما بينكم أول من يدخل من باب الصفا. فلما رأوا محمدا أول من دخل قالوا: هذا الأمين رضينا بحكمه. وقصوا عليه قصتهم، وسمع هو لهم ورأى العداوة تبدو في عيونهم، ففكر قليلا ثم قال: هلم إلي ثوبا، فأتي به؛ فنشره وأخذ الحجر فوضعه بيده فيه، ثم قال: ليأخذ كبير كل قبيلة بطرف من أطراف الثوب؛ فحملوه جميعا على ما يحاذي موضع الحجر من البناء، ثم تناوله محمد من الثوب ووضعه في موضعه، وبذلك انحسم الخلاف وانفض الشر. وأتمت قريش بناء الكعبة حتى جعلت ارتفاعها ثماني عشرة ذراعا، ورفعوا بابها عن الأرض ليدخلوا من شاءوا ويمنعوا من شاءوا. وجعلوا فى داخلها ست دعائم في صفين، وجعلوا في ركنها الشآمي من داخلها درجا يصعد به إلى سطحها. ووضع هبل في داخل الكعبة، كما وضعت في داخلها النفائس التي تعرضت من قبل بنائها وسقفها لمطامع اللصوص.

اختلف في سن محمد حين بناء الكعبة وحين حكمه بين قريش في أمر الحجر، فقيل: كان ابن خمس وعشرين، وقال ابن إسحاق: كان ابن خمس وثلاثين. وسواء أصحت الأولى أم الأخرى من هاتين الروايتين فإن إسراع قريش إلى الرضا بحكمه أول ما دخل من باب الصفا، وتصرفه هو في أخذ الحجر ووضعه على الثوب وأخذه من الثوب لوضعه مكانه من جدار الكعبة، يدل على ما كان له من مكانة سامية في نفوس أهل مكة ومن تقدير جم لما عرف عنه من سمو النفس ونزاهة القصد.