وولى المأمون على أذربيجان وأرمينيا زريق بن علي فندب أحمد بن الجنيد لقتال الخرمي، وذلك سنة 209هـ، فتمكن من أسر ابن الجنيد.

ثم ولى المأمون إبراهيم بن الفضل التجيبي على أذربيجانن فكان القتال مع بابك ضعيفاً، وفي سنة 212هـ، أرسل المأمون محمد بن حميد الطوسي، فتمكن بابك من قتله سنة 214، وكان لقتله أكبر الأثر في نفس المأمون، بل ونفوس المسلمين جميعاً، وقد رثاه أبو تمام في قصيدة مطلعها:

كذا فليجلّ الخطب وليفدح الأمر فليس لعينٍ لم يفض ماؤها عذر

ومما جاء فيها:

توفيت الآمال بعد محمدٍ وأصبح في شغل عن السفر السفر

فتى مات بين الطعن والضرب ميتة تقوم مقام النصر إن فاته النصر

وظل أمر بابك يقوى إلى أن أرسل له المأمون إسحاق بن إبراهيم سنة 218هـ، وهو العام الذي توفي فيه المأمون، فأحرز إسحاق نصراً إلاّ أن أمر الخرمية بقي قويّاً، فجاء المعتصم ليتابع ما بدأه المأمون ، وقد كان اعتنق عدد من سكان الجبال مذهب الخرمية في تلك السنة، وأصبحت همذان وأصبهان تابعتين لبابك.

بدأ المعتصم عهده بإرسال جيش قوي بإمرة إسحاق بن إبراهيم إلى الخرمية، فانتصر عليهم، ثم سيّر إليهم جيشاً آخر سنة 220 ، بإمرة أبي سعيد محمد بن يوسف فأحرز نصراً آخر، وجهز كذلك جيشاً بإمرة القائد التركي حيدر بن كاوس الأشروسني، المعروف باسم (الإفشين)، وقد تعرّف هذا القائد قبل قتال الخرّمية على مناطقهم وطريقتهم في القتال التي غالبا ما كانت ليلاً وعلى شكل غارات سريعة، ونصب كمائن في الفجاج بين المرتفعات.

وبقي الإفشين سنتين كاملتين في قتال بابك، وتمكن من دخول مدينة "البذ" مقر بابك وحصنه المنيع في التاسع من رمضان سنة 222هـ.