وقد كان الصحابة والتابعون الأولون لا يعرفون فرقا كبيرا بين الظاهر والباطن، بل يمزجون الظاهر بالباطن؛ فيقيمون الشعائر، ويقدرون النية، وفي الحديث: «إنما الأعمال بالنيات» ولكن تغالى الفقهاء في أعمال الظاهر حتى اخترعوا الحيل للتخلص من أحكامها، ونسي بعضهم الباطن نسيانا تاما ، فظهرت المتصوفة تغلو في الباطن كما غلا الفقهاء في الظاهر، وساعد على وجود المتصوفة ظلم الحكام، ولجوء المتصوفة إلى الهرب من ظلمهم والاعتماد على الآخرة؛ إذ لم تحسن الدنيا، واستغل الشيعة أمر الظاهر والباطن؛ فادعوا أن القرآن له ظاهر وباطن، وأن الباطن إنما يصل إليه من الطريق اللدني الأئمة المعصمون والعلماء الراسخون، وإنما العامة تفهم القشور فقط والظواهر فقط؛ ولذلك سموا بالباطنية، والحق أن هذه النزعة الصوفية ظهرت في آخر أيام الدولة الأموية على يد الحسن البصري في البصرة، ثم ظهرت في العهد العباسي على يد جابر بن حيان الكيميائي الشيعي، وأبي العتاهية في الكوفة، ثم انضمت هذه الجماعات حلقات في بغداد، فهم يلقون دروسهم في مساجدها وفي الأوساط الخاصة المختلفة، واستعاروا من رهبان النصارى أرديتهم الصوفية البيضاء، ومن أجل ذلك سموا بالصوفية، وكان على رأس هؤلاء المحاسبي الذي ولد في البصرة ثم نزل بغداد، وما زال الفقه يغلو في الظاهر ولا يتعرض للباطن حتى أصبح قشورا، كما كان التصوف يغلو في الباطن وكان مرتعا خصبا للخرافات والأوهام والتحرر من الشعائر وارتكاب الموبقات، واخترعوا بجانب التصوف الموسيقى، والذكر، والشطح، والرقص، وغير ذلك. وكان لهم أثر كبير في النظام الاجتماعي المتهافت، وكان من نتائج هذا الصراع الشديد بين الفقهاء والمتصوفة، وتقرب الفقهاء من السلاطين لخدمتهم وتوغير صدورهم على الصوفية؛ أن آل الأمر إلى سجن بعضهم كما فعل بمحي الدين بن العربي، وقتل بعضهم كما فعل بالحلاج والسهروردي.
وإذا قلنا إن الوحدانية الخالصة عقيدة صعبة، والتمسك بها عسير؛ فقد بدأ المسلمون ينسونها، فبدءوا يعظمون الخلفاء الأمويين تعظيم قبائل العرب لشيوخها، وبدأ العباسيون يعظمون الخلفاء تعظيم الفرس لأكاسرتها، ثم تعظيم أمراء الأتراك كتعظيم العباد للسادة، وأداهم الترف إلى أن يعبدوا الشهوات والمال كعبادة الله، ثم يعبدوا الأولياء والأضرحة كما كان الجاهليون يعبدون آباءهم، وانهارت وحدانية الإسلام العظيمة الجليلة التي تبعث في نفوس أهلها العزة والسمو.
وكما تمزقت الدولة الإسلامية إلى دول صغيرة كذلك مزقتها الثورات الداخلية لما شاع في الدولة من ظلم وفساد ، وكثرة تعيين الأمراء والحكام وعزلهم، من ذلك مثلا ثورة الزنج في العراق؛ ذلك أن جماعة من شطار العبيد الهاربين من سادتهم الذين أصلهم من أفريقيا الشرقية كانوا يعملون متعهدين لبعض البصريين في كسح السباخ قرب البصرة، فظهر رجل فارسي يدعى علي بن محمد، وكان يزعم أنه ينتسب إلى علي بن أبي طالب وفاطمة من طريق زيد بن علي، ودعا العبيد إلى خروجهم على سادتهم لتحسين حالهم وضمان حريتهم وكسب الثروة لهم، وجاهر بعقيدة الخوارج التي ترفض كل تمييز جنسي، وألف جيشا عظيما لم يستطع أن يقف أمامه سكان البصرة، وأسسوا بلدة تسمى المختارة، واستعمل اللبن في بنائها، فسير المعتمد أخاه الموفق بن المتوكل لقتال الزنج، وقد أوقعوا بسكان البصرة وقت صلاة الجمعة، ونهبوا المدينة، وأخيرا لم يوفق الموفق في ردعهم، فاضطر لمصالحتهم، ثم كانت ثورة الصفارية والطاهرية في إيران، وكان الثوار من الخوارج، وقد أسسوا مقاطعة فيما بين إيران وأفغانستان، واستعملوا اللصوصية والنهب في ذلك الإقليم، وكان في خدمة هذا الزعيم رجل اشتغل في حداثته بعمل الصفر، يدعى يعقوب الصفار، وكان هذا من الشجاعة بحيث أوقع الرعب في نفوس الناس، واستمر هو وصحبه حتى فتحوا مقاطعة سجستان وهراة، ثم هزمهم الموفق بعد حروب طويلة، وقضى على تلك الجماعات الخارجة التي أفسدت أغنى جزء من أراضي الخلافة.