Uniknya, tak seperti masjid pada umumnya, Masjid Raya Sumatera Barat justru tak memiliki kubah, melainkan hanya memiliki atap khas budaya Minangkabau. Bagian atapnya memiliki desain Rumah Gadang dengan empat sudut lancip, sedangkan bangunannya berbentuk gonjong.
Makna lainnya, atap masjid sebenarnya menggambarkan bentuk bentangan kain yang digunakan untuk mengusung batu Hajar Aswad, ketika empat kabilah suku Quraisy di Mekah berselisih pendapat mengenai siapa yang berhak memindahkan batu tersebut ke tempat semula setelah kabah selesai direnovasi. Nabi Muhammad SAW kemudian mengusulkan agar Hajar Aswad diletakkan di atas selembar kain agar masing-masing dari empat kabilah tersebut dapat mengangkatnya bersamaan.
Namun, terlepas dari makna di balik atap masjid, ternyata Masjid Raya Sumatera Barat dirancang khusus untuk tahan terhadap gempa bumi hingga 10 magnitudo. Masjid Agung Sumatera Barat juga bisa digunakan untuk shelter atau lokasi evakuasi bila sewaktu-sewaktu terjadi bencana.
Pembangunan masjid itu digagas dimasa Sumbar dipimpin Gamawan Fauzi. Dilanjutkan oleh Gubernur Irwan Prayitno. Masjid tersebut, peletakan batu pertama dilakukan pada 21 Desember 2007 oleh Gubernur Gamawan Fauzi. Masjid ini akan memiliki tiga lantai yang diperkirakan dapat menampung sekitar 20.000 jamaah, yakni sekitar 15.000 jamaah di lantai dasar dan selebihnya di lantai dua dan tiga.
Masjid ini dibangun di lahan seluas sekitar 40.000 meter persegi dengan luas bangunan utama kurang dari setengah luas lahan tersebut, yakni sekitar 18.000 meter persegi, sehingga menyisakan halaman yang luas. Di halaman tersebut akan dibuat pelataran, tempat parkir, taman, dan tempat evakuasi bila terjadi tsunami (shelter).
Pengerjaan pembangunan masjid ini dilakukan oleh PT.Total Bangun Persada dalam beberapa tahap. Tiga tahap pertama telah selesai dikerjakan, mulai dari pekerjaan persiapan, pengurukan tanah, dan pemasangan struktur bangunan, kemudian dilanjutkan dengan pengerjaan ruang salat dan tempat wudu, hingga pemasangan keramik pada lantai dan ukiran sekaligus kaligrafi pada dinding bagian luar (fasad). Tiga tahap pembangunan tersebut masing-masing menghabiskan biaya sebesar Rp.103,871 miliar (2008 dan 2009), Rp.15,288 miliar (2010), dan Rp. 31 miliar (2011).
Sejak tahun 2012 pelaksanaan pembangunan masjid ini dilakukan dengan sistem tahun jamak.Pada pertengahan tahun 2012, pengerjaan pembangunan telah memasuki tahap keempat. Pada tahap tersebut telah dikucurkan anggaran sebesar Rp. 25,5 miliar untuk menyelesaikan pengerjaan shelter dan tempat parkir, yang ditargetkan selesai pada akhir tahun 2012.
Selanjutnya pada tahun 2013 dilanjutkan dengan pembangunan lanskap dan pemasangan kubah. Pada tahun 2014 dibangun empat menara masing-masing setinggi 100 meter. Pembangunan ini menghabiskan total anggaran Rp256 miliar.104
