Sebagai arsitek yang merancang gambar desain dan bentuk, Jusuf memilih orang yang terbaik untuk itu yang bisa ditemukan di Indonesia yaitu Ir. Achmad Noe’man, seoran arsitek yang telah merancang begitu banyak masjid, termasuk Masjid Salman yang monumental di Kompleks kampus ITB di Bandung yang terkenal itu.
Noe’man langsung bisa menangkap ide dan gagasan yang dikemukakan oleh Jusuf. Pertama, masjid itu harus dibuat dengan megah dan mencerminkan kebesaran bangsa. Kedua, menonjolkan arsitektur asli daerah yang merupakan kebanggaan. Ketiga, mempergunakan bahan-bahan yang terbaik yang bisa didapat. Keempat, mengoptimalkan teknologi tercanggih yang ada. Kelima, mesjid itu harus tahan selama mungkin.
Karena ada pesan agar mengambil arsitektur daerah, maka Noe’man sempat melakukan riset ke sejumlah tempat di Sulawesi Selatan.
Dalam waktu yang relatif cepat, gambar rancangan kasar sebuah mesjid dipresentasikan di hadapan Jusuf. Arsitektur umum mengacu pada sebuah mesjid tertua di Desa Katangka, Kabupaten Gowa.
Sehingga arsitektur masjid mengacu pada dua masjid yang berbeda yakni yang di Madinah dan Masjid tua Katangka, di Gowa.
