قال أبو الزناد: لما احتضر خالد جعل يبكي، وقال: لقد شهدت كذا وكذا من المعارك زحفاً، وما في جسدي موضع شبر إلا وفيه ضربة بسيف، أو رمية بسهم، أو طعنة برمح، وها أنا أموت على فراشي حتف أنفي كما يموت البعير، فلا نامت أعين الجبناء (1).

وعند وفاته لم يترك إلا فرسه وسلاحه وغلامه، جعلها في سبيل الله، فلما بلغ ذلك أمير المؤمنين عمر بن الخطاب رضي الله عنه قال: رحم الله أبا سليمان كان على ما ظننا به (2).

وجاء في حديث عمر بن الخطاب في الزكاة أن النبي صلى الله عليه وسلم قال: «أما خالد فقد احتبس أدراعه وأعتده في سبيل الله» (3).

وكانت وفاته سنة إحدى وعشرين من الهجرة في مدينة حمص الشامية وعمره آنذاك ثمانية وخمسون سنة (4).