آخر عهده وقد استخلف عمر من بعده. فلما رأى أبو بكر المثنى قال لعمر: إذا أنا مت فلا تمسين حتى تندب الناس لحرب أهل العراق مع المثنى، وإذا فتح الله على أمرائنا بالشام فاردد أصحاب خالد إلى العراق فإنهم أعلم بحربه. فلما مات الصديق ندب عمر المسلمين إلى الجهاد في أرض العراق، وأمر على المجاهدين أبا عبيد بن مسعود الثقفي حيث كان أول من لبى النداء ولم يكن من الصحابة، مع العلم أن عمر لم يكن ليولي إلا من كان صحابياً، وعندما سئل في هذا الأمر أجاب: إنما أؤمر أول من استجاب، إنكم إنما سبقتم الناس بنصرة هذا الدين، وإن هذا هو الذي استجاب قبلكم، ثم دعاه فوصاه في خاصة نفسه بتقوى الله وبمن معه من المسلمين خيراً. وأمره أن يستشير أصحاب رسول الله صلى الله عليه وسلم، وسار المجاهدون إلى العراق.
وكتب أمير المؤمنين عمر بن الخطاب في الوقت نفسه إلى أبي عبيدة في الشام أن يرسل من كان بالعراق ممن قدم مع خالد بن الوليد إلى العراق، فسيّرهم أبو عبيدة بعد فتح دمشق بإمرة هاشم بن عتبة بن أبي وقاص.
وأرسل عمر أيضاً مدداً آخر بقيادة جرير بن عبد الله البجلي قوامه أربعة آلاف، فسار باتجاه الكوفة، والتقى بقائد فارس فهزمه شر هزيمة وسقط أكثر جند الفرس في النهر.
معركة النمارق:
بعث رستم جيشاً لقتال أبي عبيد فالتقى الطرفان في النمارق بين الحيرة والقادسية، وكان على خيل المسلمين المثنى بن حارثة، فهُزم الفرس، وولوا الأدبار، وساروا إلى (كسكر) فلحقهم أبو عبيد، ثم هزمهم ثانية بعد أن جاءتهم قوة داعمة لنصرتهم، وفرّ الفرس إلى المدائن.
معركة الجسر:
بعد أن هزم الفرس في النمارق وما بعدها اجتمعوا إلى رستم، فأرسل جيشاً كثيفاً ومعهم راية (كسرى) وراية (أفريدون) التي تسمى (الدرفس) وسار هذا الجيش نحو المسلمين فالتقوا، وبينهم جسر، فقال الفرس: إما أن تعبروا إلينا، أو نعبر إليكم، فقال المسلمون لأبي عبيد: أمرهم أن يعبروا إلينا، فقال أبو عبيد: ما هم أجرأ منا على الموت بل نعبر إليكم، ثم اقتحم الجسر إليهم، وجرت معركة عنيفة بين الطرفين. وكانت فيلة الفرس تؤذي المسلمين حيث تخافها خيولهم الأمر الذي جعل أبا عبيد يأمر المسلمين بقتل الفيلة فقتلوها وكان بين الفيلة فيل عظيم هجم عليه أبو عبيد، فضرب خرطومه فاستدمى الفيل وصرخ وقتل أبا عبيد وبرك فوقه، وقتل القادة الذين تولوا أمر المسلمين بعد أبي عبيد، حتى جاء دور المثنى بن حارثة في الإمارة، وكان قد ضعف أمر المسلمين، وأرادوا التراجع، وعبر بعضهم الجسر، ولتزاحمهم عليه تحطم الأمر الذي جعل ظهور المسلمين للفرس وبدأ القتل فيهم حتى عظم، فقتل منهم من قتل، وغرق من غرق. فجاء المثنى ووقف عند مدخل الجسر يحمي المسلمين ليقطعوا الطريق ببطء فأصلحوا الجسر وعبروا خلاله، حتى انتهوا والمثنى وشجعان المسلمين يحمونهم. وقد وقعت هذه المعركة بعد معركة اليرموك بأربعين يوماً أي في شهر شعبان في السنة الثالثة عشرة للهجرة واختلف الفرس ثانية على الحكم إذ خلعوا