Dalam rekonstruksi arsitekturnya, Cresswell menyebut betapa sederhananya masjid yang dibangun Nabi Muhammad SAW tersebut. Arsitektur awalnya berbentuk segi empat dengan dinding sebagai pembatas sekelilingnya. Di sepanjang bagian dalam dinding, dibuat semacam serambi yang langsung berhubungan dengan lapangan terbuka yang berada di tengahnya.

Secara umum, kubah itu berbentuk seperti separuh bola atau kerucut yang permukaannya melengkung keluar. Berdasarkan bentuknya, dalam dunia arsitektur, dikenal ada ‘kubah piring’ karena puncak yang rendah dan dasar yang besar.