Kemudian beliau mendengar Rasulullah membaca ayat 40-41 (yang menyatakan bahwa Al-Qur’an bukan syair). Lantas Umar berkata, “Kalau begitu berarti dia itu dukun.” Kemudian beliau mendengar bacaan Rasulullah ayat 42, (Yang menyatakan bahwa Al-Qur’an bukanlah perkataan dukun), akhirnya Umar berkata, “Telah terbetik lslam di dalam hatiku.” Akan tetapi karena kuatnya adat jahiliyah, fanatik buta, pengagungan terhadap agama nenek moyang, Umar tetap saja memusuhi Islam.
Suatu hari, Umar berniat membunuh Rasulullah SAW. Umar berjalan sambil menghunus pedangnya. Dalam perjalanan, Umar bertemu dengan Nu’aim bin Abdullah An-Nahham Al-Adawi (dalam riwayat lain disebutkan, seseorang dari suku Bani Zahrah atau seseorang dari suku Bani Makhzum). Laki-laki itu berkata, “Hendak ke mana engkau wahai Umar?”
Umar menjawab, “Aku ingin membunuh Muhammad.” Orang itu berkata lagi, “Kalau Muhammad engkau bunuh, bagaimana engkau selamat dari kejaran Bani Hasyim dan Bani Zahrah?”
Umar menjawab: “Menurutku, sekarang ini engkau sudah menjadi penganut As-Shabiah (sebutan terhadap pengikut agama Islam) dan keluar dari agamamu”. Orang itu berkata kepadanya, “Maukah aku tunjukkan padamu yang lebih mengagetkanmu lagi, wahai Umar? Sesungguhnya saudara (perempuan) dan iparmu juga telah menjadi penganut As-Shabiah dan meninggalkan agama mereka berdua.”
Mendengar itu, Umar langsung bergegas mendatangi saudara perempuannya yang saat itu sedang belajar Qur’an (Surat Thaha) kepada Khabab bin Al-Arat. Umar mendapati Khabbab bin Al-Aratt membawa lembaran Al-Qur’an bertuliskan “Thaha”.
Melihat Umar datang, spontan Khabbab menyelinap ke bagian belakang rumah, sedangkan saudara perempuan Umar menutupi lembaran Al-Qur’an tersebut. “Apa gerangan suara bisik-bisik yang aku dengar dari kalian?” kata Umar.
Kemudian saudara perempuan Umar dan suaminya berkata, “Kami tidak sedang membicarakan apa-apa, hanya sekadar perbincangan di antara kami.” Umar berkata lagi: “Tampaknya, kalian berdua sudah menjadi penganut ash-Shabiah (sebutan terhadap pengikut Islam).”
Iparnya berkata, “Wahai Umar! Bagaimana pendapatmu jika kebenaran itu berada pada selain agamamu?” Mendengar itu, Umar melompat ke arah iparnya itu lalu menginjak-injaknya dengan keras. Lantas saudara perempuannya datang dan membantu suaminya menjauh darinya, namun dia justru ditampar oleh Umar, sehingga darah mengalir dari wajahnya (dalam riwayat Ibnu Ishaq disebutkan bahwa dia memukulnya, sehingga terluka memar).
Saudaranya berkata dalam keadaan marah, “Wahai Umar ! Jika kebenaran ada pada selain agamamu, maka bersaksilah bahwa tiada Tuhan (Yang berhak disembah) selain Allah dan bersaksilah bahwa Muhammad adalah Rasulullah.”
Ketika Umar merasa putus asa dan menyaksikan kondisi saudaranya yang berdarah, Umar menyesal dan merasa iba, lalu berkata, “Berikan yang ada di tangan kalian ini kepadaku dan bacakan untukku!” Saudaranya itu berkata, “Sesungguhnya engkau itu kotor, dan tidak ada yang boleh menyentuhnya melainkan orang-orang yang suci; oleh karena itu, berdiri dan mandilah!”
Kemudian Umar berdiri dan mandi, lalu mengambil kitab itu dan membaca: Bismilillahirrahmanirrahmin (Dengan nama Allah yang Maha Pemurah lagi Maha Penyayang). Umar berseloroh, “Sungguh nama-nama yang baik dan suci.”
Ketika Umar melanjutkan membaca Surah Thaha hingga sampai pada ayat 14:
إِنَّنِىٓ أَنَا ٱللَّهُ لَآ إِلَٰهَ إِلَّآ أَنَا۠ فَٱعْبُدْنِى وَأَقِمِ ٱلصَّلَوٰةَ لِذِكْرِىٓ
“Sesungguhnya aku ini adalah Allah, tidak ada tuhan selain Aku dan dirikanlah sholat untuk mengingstku.” (QS Thaha: 14)
Umar berkata: “Alangkah indah dan mulianya kalam ini! Kalau begitu, tolong bawa aku kepada Muhammad !” Saat Khabbab mendengar ucapan Umar, dia pun keluar dari persembunyiannya sembari berkata, “Wahai Umar, bergembiralah karena sesungguhnya aku berharap engkaulah yang dimaksud dalam doa Rasulullah pada malam Kamis: “Ya Allah, kokohkanlah Islam ini dengan salah satu Al-Khaththab atau Abu Jahal bin Hisyam.”