ولما أسلم عكرمة شكا قولهم عكرمة بن أبي جهل فناهم رسول الله صلى الله عليه وسلم أن يقولوا عكرمة بن أبي جهل وقال: " لا تؤذوا الأحياء بسب الأموات ".

وكان عكرمة مجتهداً في قتال المشركين مع المسلمين استعمله رسول الله صلى الله عليه وسلم عام حج على هوازن يصدقها. ووجهه أبو بكر إلى عمان وكانوا ارتدوا فظهر عليهم ثم وجهه أبو بكر إلى اليمن وولى عمان حذيفة القلعاني، ثم لزم عكرمة الشام مجاهداً حتى قتل يوم اليرموك في خلافة عمر رضي الله عنهما هذا قول ابن إسحاق.

واختلف في ذلك قول الزبير فمرةً قال: قتل يوم اليرموك شهيداً. وقال في موضع آخر: استشهد عكرمة يوم أجنادين. وقيل إنه قتل يوم مرج الصفر، وكانت أجنادين ومرج الصفر في عام واحد سنة ثلاث عشرة في خلافة أبي بكر رضي الله عنه. وقال الحسن بن عثمان الزيادي: استشهد من المسلمين بأجنادين ثلاثة عشر رجلاً، منهم عكرمة بن أبي جهل وهو ابن اثنتين وستين سنة. وأجنادين من أرض فلسطين.

ذكر الزبير حدثني محمد بن الضحاك بن عثمان عن أبيه قال: لما أسلم عكرمة قال: يا رسول الله علمني خير شيء تعلمه حتى أقوله. فقال له النبي صلى الله عليه وسلم: " شهادة أن لا إله إلا الله وحده لا شريك له، وان محمداً عبده ورسوله ".فقال عكرمة: أنا أشهد بهذا، وأشهد بذلك من حضرني وأسألك يا رسول الله أن تستغفر لي فاستغفر له رسول الله صلى الله عليه وسلم فقال عكرمة: والله لا أدع نفقةً كنت أنفقها في صدٍّ عن سبيل الله إلا أنفقت ضعفها في سبيل الله ولا قتالاً قاتلته إلا قاتلت ضعفه، وأشهدك يا رسول الله. ثم اجتهد في العبادة حتى قتل زمن عمر رضي الله عنه بالشام.

عن عامر بن سعد أن عكرمة بن أبي جهل أتى النبي صلى الله عليه وسلم وقال له: " مرحباً بالراكب المهاجر "، قال: فقلت: ما أقول يا رسول الله؟ فقال: " قل أشهد أن لا إله إلا الله، وأشهد أن محمداً رسول الله ".

وذكر الزبير قال: حدثني عمي عن جده عبد الله بن مصعب، قال: استشهد باليرموك الحارث بن هشام وعكرمة بن أبي جهل وسهيل بن عمرو وأتوا بماء وهم صرعى فتدافعوه كلما دفع إلى رجل منهم قال: اسق فلاناً حتى ماتوا ولم يشربوه. قال: طلب عكرمة الماء