عندما أنتشر الإسلام رفض زهير أن يدخل فيه وظل على وثنيته، ونظم العديد من الأشعار التي يهجو ويسب فيها الإسلام والرسول الأمر الذي جعل الرسول "صلى الله عليه وسلم" يهدر دمه. ظل كعب على وثنيته حتى جاء فتح مكة وأبلغه اخاه بجير وقد سبقه إلى الاسلام أن الرسول "صلى الله عليه وسلم" قد أهدر دمه وقال " إن النبي قتل كل من آذاه من شعراء المشركين وإن ابن الزبعري وهبيرة بن أبي وهب قد هربا، وما أحسبك ناجيا، فإن كان لك في نفسك حاجة فأقدم على رسول الله صلى الله عليه وسلم فإنه لا يقتل أحدا جاءه تائبا" وعندما علم كعب بن زهير بهذا ضاق به الحال وحاول أن يستنجد بقبيلته ليجيروه من النبي إلا أنها رفضت أن تعاونه، فثار في نفسه الكثير من الخوف. عزم زهير أن يتجه إلى المدينة لكي يلتقي بالرسول "صلى الله عليه وسلم"، فنزل على رجل من أصحابه يختبئ عنده، ثم أتى به الرجل إلى المسجد ليقابل الرسول "صلى الله عليه وسلم"، وأشار الرجل إلى الرسول وقال لزهير " هذا رسول الله فاذهب إليه فاستأمنه" فتلثم كعب بعمامته، ومضى إلى رسول الله وجلس بين يديه قائلاً " يا رسول الله إن كعب بن زهير قد جاء ليستأمن منك تائبا مسلما، فهل أنت قابل منه إن جئتك به" قال رسول الله: "نعم"، فكشف كعب عن وجهه وقال: "أنا يا رسول الله كعب بن زهير" وما إن قالها حتى وثب عليه رجل من الأنصار قائلا: "يا رسول الله دعني وعدو الله اضرب عنقه".
ويقول له: انج وما أرى أن تنفلت. ثم كتب إليه بعد ذلك يأمره أن يسلم ويقبل إلى رسول الله صلى الله عليه وسلم، ويقول له: إنه من شهد أن لا إله إلا الله وأن محمداً رسول الله ، قبل منه رسول الله وأسقط ما كان قبل ذلك. فأسلم كعبٌ وقال القصيدة التي اعتذر إلى رسول الله صلى الله عليه وسلم فيها: " بانت سعاد فقلبي اليوم متبولُ " ، ثم أقبل حتى أناخ راحلته بباب مسجد رسول الله صلى الله عليه وسلم قال: وكان مجلس رسول الله صلى الله عليه وسلم في أصحابه مكان المائدة من القوم ، حلقةً ثم حلقة ثم حلقة ، وهو في وسطهم، فيقبل على هؤلاء فيحدثهم، ثم على هؤلاء ثم هؤلاء، فأقبل كعبٌ حتى دخل المسجد، فتخطى حتى جلس إلى رسول الله صلى الله عليه وسلم فقال: يا رسول الله، الأمان. قال: ومن أنت؟ قال: كعب بن زهير. قصيده كعب بن زهير في مدح الرسول صلي الله عليه و سلم. قال: أنت الذي تقول ، كيف قال يا أبا بكر؟ فأنشده حتى بلغ: سقاك أبو بكر بكأسٍ روية *** وأنهلك المأمور منها وعلكا فقال: ليس هكذا قلت يا رسول الله ، إنما قلت: سقاك أبو بكرٍ بكاسٍ روية *** وأنهلك المأمون منها وعلـكا فقال رسول الله صلى الله عليه وسلم: " مأمونٌ والله " ، وأنشده:: " بانت سعاد فقلبي اليوم متبول " ، حتى أتى على آخرها. "
فلما لم يجد من شيء بدًّا، قال قصيدته التي يمدح فيها رسول الله -صلى الله عليه وسلم، وذكر فيها خوفه وإرجاف الوشاة به من عدوه، ثم خرج حتى قدم المدينة فصلى مع رسول الله صلى الله عليه وسلم، … فذُكر لي أنه قام إلى رسول الله صلى الله عليه وسلم حتى جلس إليه فوضع يده في يده وكان رسول الله صلى الله عليه وسلم لا يعرفه، فقال: يا رسول الله، إن كعب بن زهير قد جاء ليستأمن منك تائبًا مسلمًا، فهل أنت قابل منه إن أنا جئتك به؟ قال رسول الله -صلى الله عليه وسلم-: نعم ، قال: أنا يا رسول الله - كعب بن زهير. قصيدة كعب بن زهير في مدح النبي – التاريخ الإسلامي – صحح تاريخك| قصة الإسلام. قال ابن إسحاق: فحدثني عاصم بن عمر بن قتادة: أنه وثب عليه رجل من الأنصار، فقال: يا رسول الله، دعني وعدو الله أضرب عنقه، فقال: رسول الله -صلى الله عليه وسلم: دعه عنك، فإنه قد جاء تائبًا نازعًا عما كان عليه. قال: فغضب كعبٌ على هذا الحي من الأنصار، لما صنع به صاحبهم، وذلك أنه لم يتكلم فيه رجل من المهاجرين إلاّ بخير، فقال في قصيدته التي قال حين قدم على رسول الله -صلى الله عليه وسلم: بانَتْ سُعاد فقلبي اليوم مَتْبوُلُ... مُتَيَّمٌ إِثْرها لم يُفْدَ مَكْبُول وذكر القصيدة إلى آخرها (1). قال ابن كثير –رحمه الله: "وقال ابن هشام: هكذا أورد محمَّد بن إسحاق هذه القصيدة ولم يذكر لها إسنادًا" (2).