فلما أصبحوا فعلوا ذلك وأسرعوا في جمع ما ذكرنا ووضعوه في صناديق، وجعلوا في أطرافها أعواداً طوالاً من أسفلها وحملتها الرجال وخرج خلفهم الفرسان يقاتلون والمرزبان أمامهم يعلمهم كيف يصنعون وهم مستترون بالدرق والحجف، والحجارة والنبال تتساقط عليهم من أعلى السور حتى وصلوا إلى أول باب من أبواب المدينة، وهو الباب الشرقي وهو أعظم أبوابها. فلما قربوا من الباب رفعوا الصناديق على الباب وألقوا النار في الزيت والكبريت ووضعوها وانقلبوا، فلم يكن أسرع من لحظات حتى تعلقت النار بحجارة الباب والأخشاب والحديد وثارت النار إلى أعلى السور حتى وصلت إلى البرج فسقط البرج بمن فيه من الروم وهلك منهم جماعة كثيرة، وتبادر المسلمون إلى الباب وملئوا قرب الماء وأطفئوا تلك النار، ودخلوا من الباب وقصدوا قصر الملك وكان حصيناً على أعمدة من الحجارة المنحوتة وكانوا أغلقوا أبوابه ففعلوا به كما ذكرنا!
ولما رأى الملعون ذلك لم يطق الصبر وأمر بفتح الباب وصاح الأمان ومعه جماعة من حشمه وخدمه وبطارقته فعرضوا عليهم الإسلام فأبوا فأمر خالد بضرب أعناقهم، فمن أسلم تركوه ومن أبى قتلوه، واستغاثت بهم السوقة والرعية وقالوا: مغلوبون! فمن أسلم تركوه، ومن بقي على دينه ضربوا عليه الجزية، وهدموا دوراً وأماكن حتى صارت تلالاً، وغنم المسلمون أموالاً كثيرة من أواني الذهب والفضة والفرش الفاخرة، ووضعوا فيها عبادة بن قيس قيِّماً ومعه ثلثمائة من المسلمين، وخرجوا بظاهر المدينة، ولم يبق إلا من أسلم ومن وضعت عليه الجزية، وعمروا بها مسجداً!
ولما فرغ خالد من ذلك جمع الغنائم، وأخرج خمسها وأرسله إلى عمرو بن العاص يرسله إلى عمر بن الخطاب - رضي الله عنه - في المدينة وأرسل لعمرو بن العاص سهمه ولأصحابه المؤمنين المقيمين بمصر ونواحيها، وأقام خالد بعد ذلك ب"أهناس" هو وجماعته من الأمراء أربعين يوماً، واستدعى خالد بعدي بن حاتم الطائي - رضي الله عنه - وأضاف إليه ميمون بن مهران وضم إليه ألف فارس وأمرهم أن ينازلوا أول بلاد "البطليوس" -لعنه الله- وينازلوا أهل الكورة وإذا وصل إلى قيس بن الحرث يأمره بالمسير إلى قريب البهنسا ويقاتل من يقاتله ويسالم من يسالمه ويصالح من يصالحه حتى يأتيه المدد!
ثم أرسل في أثره عياض بن غنم الأشعري - رضي الله عنه - وضم إليه ألف فارس فيهم الفضل بن العباس والمسيب بن نجبة الفزاري وأبو ذر الغفاري والمرزبان الفارسي وكذلك جعفر ومسلم وعلي وعبد الله بن المقداد وسليمان بن خالد ومحمد بن طلحة وعمرو بن سعد بن أبي وقاص