Al-Qadhi Iyadh berkata, “Agama di tengah mereka sangat minim. Karena sebagian mereka masih berlaku seperti prilaku jahiliyah. Sebagian dari mereka hanya mengenal dua kalimat syahadat. Hanya itu yang mereka kenal dari ajaran Islam (al-Qadhi Iyadh, Tartib al-Madarik, 2/64).
Dakwah Abdullah bin Yasin ini mendapat tantangan berat. Ia ditentang oleh beberapa tokoh masyarakat dan orang-orang yang punya kepentingan. Menghadapi gelombang protes keras ini sampai Amir Yahya bin Ibrahim al-Judali pun tak sanggup melindungi beliau. Kendati demikian, Abdullah bin Yasin tidak merasa putus asa. Ia tetap berusaha mendakwahi mereka. Hingga penentangan semakin kuat. Ia sampai dihina dan dipukuli. Sampai akhirnya mereka mengusir Abdullah bin Yasin dari kampung mereka.
Awal Mula Kerajaan Murabithun
Setelah diusir, Abdullah bin Yasin sempat bingung apa yang harus ia lakukan setelah ini. Akhirnya ia memutuskan untuk tetap berdakwah di pedalaman padang pasir. Ia pindah menuju tepian Sungai Negra dekat dengan Kota Tobacto. Dari sinilah kisah tentang orang-orang Murabithun dimulai (Muhammad Bin Abdullah Annan, Daulah al-Islam fi al-Andalus, 3/302).
Ibnu Khaldun menjelaskan tempat baru Abdullah bin Yasin ini dengan mengatakan, “Semenanjung ini dikelilingi oleh Sungai Nil (maksudnya anak Sunga Neiger). Pada musim kemarau airnya sangat dangkal. Sehingga orang-orang bisa melintasinya dengan berjalan kaki. Tetapi ketika musim hujan terjadilah banjir. Sehingga untuk melewatinya dibutuhkan perahu (Ibnu Khaldun, Tarikh Ibnu Khaldun, 6/183).
Abdullah bin Yasin mendirikan sebuah tenda yang cukup luas di tempat tersebut. Beberapa orang dari Suku Judalah mendengar tentang kabar sang guru. Mereka ini kaum muda yang tergerak hatinya untuk mempelajari Islam. Meskipun tempat ini cukup jauh, mereka tetap semangat mendatangi guru mereka itu. Mereka pun menempuh jalur selatan Mauritania.
Mulanya, mereka hanya terdiri dari tujuh orang Suku Judalah yang dipimpin oleh Yahya bin Ibrahim al-Judali dan adiknya, Abu Bakar. Di dalam tenda yang sangat sederhana itu, Abdullah bin Yasin mengajarkan Islam kepada murid-muridnya. Ajaran Islam yang murni sebagaimana yang diturunkan Allah kepada Nabi Muhammad shallallahu ‘alaihi wa sallam.
Semakin hari, jumlah pengikutnya pun semakin banyak. Dari tujuh orang menjadi lima puluh. Kemudian seratus. Dan terus berlipat-lipat jumlahnya. Dalam rentang waktu empat tahun, jumlah muridnya menjadi 1000 orang.
Abdullah bin Yasin setiap hari mengadakan dars (pelajaran) bersama 1000 orang muridnya. Di antara 1000 orang tersebut terdapat para bangsawan Shanaja. Lalu, ia menamai mereka dengan al-Murabithun yang berarti orang-orang yang setia. Setia menunggu surau mereka di perbatasan. Dari sinilah cikal bakal kerajaan besar al-Murabithun itu dibangun.
Abdullah bin Yasin memulai dakwahnya dengan perkara-perkara fundamental. Ia mengajari murid-muridnya tentang Alquran, hadits, wudhu, shalat, zakat, dan ibadah-ibadah lainnya yang diwajibkan Allah kepada manusia. Mungkin sebagian orang meremehkan materi-materi kajian seperti ini. Karena kajiannya terbatas. Tidak mengurusi kepentingan umat secara umum. Orang-orang lebih senang mengedepankan kajian-kajian politik, pemikiran, dan jihad. Karena itu dianggap kebutuhan mendesak.