Masjid Agung Jawa Tengah bangunannya meneladani prinsip gugus model kluster dari Masjid Nabawi di Madinah. .Bentuk penampilan arsitekturnya merupakan gubahan baru yang mengambil model dari tradisi para wali dengan membubuhkan corak universal arsitektur Islam pada pada bangunan pusatnya dengan menonjolkan kubah utama yang dilengkapi dengan minaret runcing menjulang di keempat sisinya.
Masjid beserta fasilitas pendukungnya terletak di jalan Gajah Raya, Keluarahan Sambirejo, Kecamatan Gayamsari menempati tanah bandha Masjid Agung Semarang seluas 10 ha dan mampu menampung jamaah lebih kurang 13.000 orang.
Di samping bangunan Masjid disini juga dilengkapi fasilitas-fasilitas yang lain seperti : ruang kantor, ruang kursus dan pelatihan, ruang perpustakaan, ruang akad nikah dan auditorium. Dalam uapaya penggalian dana , dalam kompleks juga dibangun galeri pertokoan, ruang kantor yang disewakan, hotel dan toko cinderamata .
saya sangat menghargai masjid raya Jawa Tengah karena arsitekturnya tidak lepas dari konsep bangunan jawa. Sayang menara masjid berbentuk lingkaran di atas yang kurang pas, alangkah bagusnya kalau berbentuk kotak yang seirama dengan bentuk dasar dan bentuk menara kudus. Menara keatasnya juga kurang besar. bila besar bisa digunakan untuk pameran, kantor atau ruang yang lain.