أما الباقون الذين عاندوا ولم يرجعوا عن ما هم عليه فقد ظلوا يترددون على الكوفة، ويتردد عليهم رسل علي بن أبي طالب رضي الله عنه لإقناعهم، ولكن دون جدوى، ومع مرور الوقت، وقرب عقد المجلس الذي سوف يتم فيه التحكيم، بدأ هؤلاء يتعرضون لعلي بن أبي طالب رضي الله عنه بما لا يليق، وخرجوا عن دائرة النقاش المهذب، وبدءوا بالسباب، والشتائم، وعلي رضي الله عنه يصبر عليهم، ويردّ عليهم بالتي هي أحسن تجنبًا للفتن، واستمرّ الوضع هكذا يزداد يومًا بعد يوم، حتى قام له رجل منهم، وهو يخطب فقال له: يا علي أشركت الرجال في دين الله، ولا حكم إلا لله.

وتنادوا من كل جانب: لا حكم إلا لله.

فقال علي بن أبي طالب رضي الله عنه: هذه كلمة حق أًريد بها باطل.

ثم قال: إن لكم علينا ألا نمنعكم فيئًا ما دامت أيديكم معنا، وألا نمنعكم مساجد الله، وألا نبدأكم بقتال حتى تبدءونا.

ثم بدءوا يعرّضون بتكفير علي بن أبي طالب رضي الله عنه، فقابله رجلٌ منهم يومًا وقال له: يا علي لئن أشركت ليحبطن عملك ولتكونن من الخاسرين.

فجعلوا أن تحكيم أبي موسى وعمرو بن العاص رضي الله عنهما في هذه القضية إشراكًا بالله.

فقرأ علي بن أبي طالب رضي الله عنه قول الله تعالى: [فَاصْبِرْ إِنَّ وَعْدَ اللهِ حَقٌّ وَلَا يَسْتَخِفَّنَّكَ الَّذِينَ لَا يُوقِنُونَ] ﴿الرُّوم:60﴾ .

ثم اعتزل هؤلاء القوم الكوفة بالكلية، ولجئوا إلى مكان يُسمّى النهروان، ومكثوا فيه، ولم يدخلوا الكوفة بعد ذلك، فلما رأي أمير المؤمنين علي بن أبي طالب رضي الله عنه، أن أمرهم بدأ يزيد، ويشكل خطورة على المسلمين بعث إليهم يقول لهم: قد كان من أمرنا وأمر الناس ما قد رأيتم، فقفوا حيث شئتم حتى تجتمع أمة محمد صلى الله عليه وسلم، وبيننا وبينكم ألا تسفكوا دمًا حرامًا، أو تقطعوا سبيلًا أو تظلموا ذميًّا - يهوديًا أو نصرانيًا - فإنكم إن فعلتم فقد نبذنا إليكم الحرب على سواء، إن الله لا يحب الخائنين.