لما توفي عمر بن عبد العزيز (١٠١ هـ) عاد الأمر في تعيين ولاة الأندلس إلى ولاة إفريقية، ولكن بمصادقة الخليفة. وكان الوالي عادة هو قائد الجيش العام، وإليه يرجع أمر الغزو في الشمال. ولما وقعت نكبة بلاط الشهداء في سنة ١١٤ هـ (٧٣٢ م)، أخذت الخلافة مرة أخرى بيدها تعيين والي الأندلس، واختار الخليفة هشام بن عبد الملك لولايتها عبد الملك بن قطن. واستمر الأمر بعد ذلك حينًا يرجع إلى والي إفريقية، وأحيانًا إلى اختيار الجماعة، أعني جماعة الزعماء والقادة في شبه الجزيرة، وكان ذلك يحدث بالأخص حين تضطرب الأمور، ويقع الخلاف بين مختلف القبائل والزعامات. ولما اضطرمت الفتنة بين الشاميين والبلديين، وأخذ الفريقان يتبادلان الرياسة، ضعف أمر السلطة المركزية، ولم تهدأ الأمور حتى عين أبو الخطار الكلبي واليًا للأندلس (١٢٥ هـ). ولكن أبا الخطار كان يمنيًا فمال إلى اليمنية، واضطرمت الفتنة بين اليمنية والمضرية، ولما تفافم الأمر، وخشي الزعماء عاقبة الفتنة والحرب الأهلية، اتفقوا على تعيين يوسف بن عبد الرحمن الفهري من المضرية للولاية، وذلك دون موافقة أو مصادقة لا من والي إفريقية ولا من الخلافة، وكان ذلك في سنة ١٢٩ هـ (٧٤٧ م).

واستمر يوسف بن عبد الرحمن الفهري واليًا للأندلس زهاء عشرة أعوام، وهو يزاول سلطة شبه مطلقة. وقد استطاع بعزمه وحزمه، أن يعيد إلى الأندلس نوعًا من الاستقرار والسكينة. ولكن القدر كان يدخر للأندلس مصيرًا آخر، في ظل سلطة أخرى، لم تكن تخطر ليوسف أو غيره من الزعماء المتطلعين إلى الرياسة. وذلك أن عبد الرحمن الأموي عبر إلى الأندلس في ربيع الآخر سنة ١٣٨ هـ (سبتمبر سنة ٧٥٥ م)، وهرع في الحال إلى لوائه جمع من الصحب والأنصار، ووقع الحدث الحسم في موقعة المسارة في العاشر من ذي الحجة سنة ١٣٨ هـ (١٣ مايو سنة ٧٥٦ م) فهزم يوسف الفهري وصحبه، وانتهت رياسته للسلطة، وكتب النصر لسليل بني أمية، فبويع عبد الرحمن الأموي في الحال بالإمارة، وبعثت من ذلك التاريخ دولة بني أمية بالأندلس، بعد أن سقطت بالمشرق قبل ذلك ببضعة أعوام.

ومن ذلك التاريخ تقوم الدولة الأموية في الأندلس، وتستقر قواعدها تباعًا، بعد معارك طويلة متعددة، بينها وبين الزعامات المحلية والعناصر الثائرة. وقد