فلما قدم رسول الله صلى الله عليه وسلم المدينة، وقد أسلمت الخزرج وطوائف من الأوس بنو عبد الأشهل كلها, وظفر, وحارثة, ومعاوية, وعمرو بن عوف، إلا ما كان من أوس الله وهم وائل, وبنو خطمة, وواقف وأمية بن زيد مع أبي قيس بن الأسلت، وكان رأسها وشاعرها وخطيبها، وكان يقودهم في الحرب، وكان قد كاد أن يسلم, وذكر الحنيفية في شعره، وكان يذكر صفة النبي صلى الله عليه وسلم وما تخبره به يهود، وإن مولده بمكة, ومهاجره يثرب, فقال بعد أن بعث النبي صلى الله عليه وسلم: هذا النبي الذي بقي وهذه دار هجرته، فلما كانت وقعة بعاث شهدها، وكان بين قدوم رسول الله صلى الله عليه وسلم ووقعة بعاث خمس سنين، وكان يعرف بيثرب يقال له: الحنيف، فقال شعرا يذكر الدين:

ولو شا ربنا كنا يهودا ... وما دين اليهود بذي شكول

ولو شا ربنا كنا نصارى ... مع الرهبان في جبل الجليل.

ولكنا خلقنا إذ خلقنا ... حنيفا ديننا عن كل جيل.

نسوق الهدي ترسف مذعنات ... تكشف عن مناكبها الجلول

فلما قدم رسول الله صلى الله عليه وسلم المدينة قيل له: يا أبا قيس هذا صاحبك الذي كنت تصف، قال: أجل قد بعث بالحق. وجاء إلى النبي صلى الله عليه وسلم، فقال له: إلام تدعو؟ فقال رسول الله صلى الله عليه وسلم: إلى شهادة أن لا إله إلا الله، وأني رسول الله صلى الله عليه وسلم، وذكر شرائع الإسلام، فقال أبو قيس: ما أحسن هذا وأجمله، أنظر في أمري، ثم أعود إليك، وكاد يسلم، فلقيه عبد الله بن أبي، فقال: من أين؟ فقال: من عند محمد عرض علي كلاما ما أحسنه، وهو الذي كنا نعرف والذي كانت أحبار يهود تخبرنا به، فقال له عبد الله بن أبي: كرهت والله حرب الخزرج، قال: فغضب أبو قيس وقال: والله لا أسلم سنة ثم انصرف إلى منزله فلم يعد إلى رسول الله صلى الله عليه وسلم حتى مات قبل الحول، وذلك في ذي الحجة على رأس عشرة أشهر من الهجرة.