ولى على الحجاز الوليد بن عتبة بن أبى سفيان الذى اشتد على "ابن الزبير" فلم يجد ابن الزبير بدّا من اللجوء إلى حيلة معقولة؛ لكى يتخلص من الوليد. وهداه تفكيره إلى أن يطلب إلى يزيد تغيير هذا الوالى حتى يتسنى له أن يفكر فى مصالحته.

وسرعان ما استجاب يزيد، فعزل الوليد وعين مكانه "عثمان ابن محمد بن أبى سفيان".

وقد نجحت حيلة ابن الزبير، فعثمان كان شابّا صغيرًا لم تصقله التجارب، ولا خبرة له بسياسة الناس وقيادتهم، فأساء من حيث أراد الإصلاح.

لقد أرسل وفدًا من أشراف أهل المدينة إلى دمشق؛ لكى يرى الخليفة بنفسه مدى طاعتهم وولائهم، وأحسن يزيد وفادتهم، وأغدق عليهم، ومنحهم العطايا ليستميل قلوبهم، وليكونوا خير دعاة له إذا رجعوا إلى أهليهم وذويهم، فمن رأى ليس كمن سمع، ولكنهم بعد أن رأوا فى عاصمة الخلافة الجديدة مظاهر البذخ والإسراف، وسمعوا مالا يتفق مع تقاليد الخلفاء الراشدين من مظاهر الترف، عادوا وهم يعلنون بين أهليهم وذويهم أنهم قد خلعوا طاعة يزيد، ثم بايعوا عبد الله بن حنظلة بن أبى عامر "ابن غسيل الملائكة" وتوجهوا بعد ذلك إلى والى يزيد على المدينة فأخرجوه منها، وحاصروا دار مروان بن الحكم بالمدينة تعبيرًا عن سخطهم ورفضهم لبنى أمية.

واستغاث مروان بن الحكم بيزيد، وتأزم الموقف من جديد، فقد أعد يزيد جيشًا ضخمًا من جند الشام، وأسند قيادته إلى مسلم ابن عقبة، ليحمى بنى أمية بالمدينة، وليخضع الثائرين عليه.

وعلم أهل المدينة بمقدم الجيش فلم يجدوا بدّا من إخراج بنى أمية إلى الشام بعد أن يأخذوا عليهم العهود والمواثيق ألا يساعدوا عليهم أحدًا.

وخرج بنو أمية مطرودين من المدينة، لكنهم تقابلوا مع جيش مسلم بن عقبة، فطلب منهم أن يشيروا عليه بما ينبغى أن يفعله، فأرشده عبد الملك بن مروان إلى كيفية الزحف على المدينة، والدخول إليها، وزحف مسلم كما أشار عليه عبد الملك، ونفذ الخطة فوصل إلى الحرة شمالى شرق المدينة، وهى أرض صخرية بركانية، فخرج إليه أهل المدينة بقيادة عبد الله بن حنظلة، والتحموا مع جند الخليفة فى معركة شديدة انتهت بهزيمة أهل المدينة، وقتل عدد كبير من بنى هاشم وقريش والأنصار.

وفى جو الهزيمة هذا دعا مسلم الناس للبيعة؛ محذرًا من عاقبة المخالفة بعد أن رأوا بأعينهم ما حل بغيرهم.

فبعد أن انتهى مسلم من إجبار الناس على البيعة، سار بمن معه من الجند إلى البيت الحرام بمكة؛ حيث يعتصم ابن الزبير، لكن القدر لم يمهله، فتوفاه الله قبل أن يصل إلى مكة.

ويتولى على الفور قيادة الجيش الأموى الزاحف على مكة للقاء عبد الله بن الزبير: "الحصين بن نمير السكوني"، ويواصل مسيرته إلى مكة المكرمة، ويشتد على الثائرين، ولا يمنعه شىء مما يحتمون به، ويستمر الحصار شهرين، وابن الزبير متحصن بالبيت الحرام، وتأتى الأنباء بوفاة الخليفة يزيد، فيتوقف القتال، ويرفع الحصار، ويعود الجيش الأموى إلى الشام، ويخرج ابن الزبير على الناس فتذعن