Kemudian, Allah Subhanahu wa Ta’ala berfirman kepada Nabi Ibrahim. Isi firman tersebut tak lain adalah agar Nabi Ibrahim mendirikan sebuah rumah untuk-Nya. Namun, Nabi Ibrahim belum mengetahui di mana letak tepatnya Allah Subhanahu wa Ta’ala menginginkan bangunan tersebut didirikan.
Nabi Ibrahim lantas bertanya kepada Allah Subhanahu wa Ta’ala di mana dia harus membangun rumah itu untuk-Nya. Allah Subhanahu wa Ta’ala berfirman dan menunjukan tempatnya kepada Nabi Ibrahim.
Setelah mengetahui tempatnya, Nabi Ibrahim mendatangi anaknya, Nabi Ismail, dengan maksud meminta bantuannya. Ketika keduanya telah bertemu, Nabi Ibrahim pun menceritakan kepada anaknya bahwa dia diperintahkan Allah Subhanahu wa Ta’ala untuk membangunkan rumah untuk-Nya.
Nabi Ismail kemudian berkata kepada Nabi Ibrahim agar perintah tersebut sebaiknya segera dilaksanakan. Nabi Ismail pun dengan sukarela membantu ayahnya untuk menunaikan perintah Allah Subhanahu wa Ta’ala.
Ibnu Abbas pernah berkata, pada saat itu, Nabi Ismail dan Nabi Ibrahim mulai mendirikan fondasi Baitullah. Nabi Ismail mengangkut batu, sementara ayahnya yang menyusun dan merekatkannya satu per satu.
Setelah susunan batu-batu tersebut cukup tinggi, Nabi Ismail kemudian membawakan lagi sebuah batu untuk pijakan kaki ayahnya. Batu tersebut diyakni sebagai Maqam Ibrahim.
Setelah berhari-hari bekerja mengangkut dan menyusun batu, bangunan yang mereka dirikan pun semakin tinggi. Kemudian selesai dengan panjang 30-31 hasta dan lebar 20 hasta. Bangunan awal masih belum diberi atap. Hanya empat tembok persegi dengan dua pintu.