Bangunan Cagar Budaya Masjid Gedhe Mataram Kotagede dibangun pada tahun 1589 M (keterangan dalam Serat Babad Momana: “1511, taun dal, adegipun masjid ageng, sareng mangun antaka-pura”), merupakan salah satu masjid tertua dari Kerajaan Mataram-Islam yang terletak di Kotagede. Masjid Gedhe Mataram Kotagede merupakan unsur penting dari Kerajaan Mataram-Islam di Kota Gede yang merupakan pusat pemerintahan tradisional yang dilengkapi beberapa komponen sebagai sebuah kota antara lain keraton, alun-alun, masjid, dan pasar. Unsur-unsur perkotaan tersebut yang saat ini masih dapat dijumpai hanyalah kompleks masjid dan keberadaan pasar.
Bangunan Masjid Gedhe Mataram Kotagede terdiri atas: (1) bangunan utama, (2) serambi, (3) pawèstrèn dan serambi utara (pabongan/emper kiwa), (4) parit, dan (5) pagar masjid.
1. Bangunan Utama
bergaya arsitektur tradisional Jawa berbahan kayu dan pasangan bata. Bentuk atap tajug tumpang dua terdiri atas atap brunjung dan penanggap dengan menggunakan sistem konstruksi lambang gantung. Konstruksi ini ditopang oleh empat saka guru dengan tumpangsari yang menopang atap brunjung berbentuk segitiga tanpa ander dan atap penanggap yang terdiri dari empat empyak berbentuk trapesium. Atap penanggap ditumpu oleh dinding tembok masjid yang terbuat dari pasangan bata berukuran tebal 70 cm berplester dan dicat. Plafon terbuat dari papan kayu jati. Denah bangunan utama berbentuk bujur sangkar dengan ukuran lantai 13,85 m x 13,85 m. Ruangan bangunan utama dilengkapi 3 akses pintu masuk di dinding sisi timur, 1 pintu di dinding sisi selatan untuk masuk ke pawèstrèn, dan 2 pintu di dinding sisi utara untuk masuk serambi utara (pabongan/emper kiwa). Dinding bangunan utama dilengkapi 8 jendela berbentuk empat persegi panjang dengan bahan kayu dan berjeruji. Lantai menggunakan bahan marmer Yunani berwarna putih susu hasil pemugaran tahun 2002. Lantai lama berbahan batu putih tetap dilestarikan yang berada di bawah lantai marmer. Ruangan liwan dilengkapi mihrab dan mimbar.
2. Serambi
Bangunan serambi bergaya arsitektur tradisional Jawa berbahan konstruksi kayu bentuk atap limasan dengan konstruksi takir dan lumajang. Serambi berada di sebelah depan (sisi timur) bangunan utama. Pada awalnya atap serambi berbahan sirap, kemudian diganti dengan bahan seng yang dibentuk menyerupai genting. Atap serambi berbentuk limasan disangga dengan 8 tiang. Kedelapan tiang tersebut dibuat dari kayu jati dengan tinggi 4 m dan penampang berukuran 22 cm x 22 cm. Serambi berdenah empat persegi panjang berukuran 22,05 m x 12,15 m yang melintang utara-selatan. Lantai lama bahan batu putih dengan plester tetap dilestarikan berada di bawah lantai marmer dari Tulungagung berukuran 30 cm x 30 cm. Ruang serambi pada ketiga sisinya (utara, timur, dan selatan) terdapat tambahan atap (emper). Emper sisi utara berukuran lebar antara 2,25 m–3,25 m, emper sisi selatan berukuran lebar antara 3 m–3,25 m, emper sisi timur berukuran lebar 4 m. Emper yang berada di ketiga sisi serambi ditopang oleh 18 tiang kayu jati, berukuran tinggi 2,5 m dan penampang berukuran 15 cm x 15 cm.
3. Pawèstrèn dan Serambi Utara (Pabongan/Emper Kiwa)
Di sebelah selatan ruang inti/utama terdapat ruangan tempat salat khusus wanita yang biasa disebut dengan istilah pawèstrèn. Bagian pawèstrèn ini berdenah empat persegi panjang dengan ukuran 10,93 m x 6,24 m membujur timur-barat. Ruangan ini memakai atap limasan yang terpisah dengan konstruksi atap bangunan utama. Akses masuk ke pawèstrèn terdapat tiga pintu, masing-masing di dinding sisi utara, selatan, dan timur. Lantai ruangan ini sekarang telah diganti dengan marmer Tulungagung berukuran 30 cm x 30 cm.
Pada sebelah utara bangunan utama terdapat serambi (pabongan/emper kiwa) berdenah empat persegi panjang berukuran 8,41 m x 4,53 m membujur timur-barat. Ruangan ini atapnya terpisah dengan bangunan utama masjid dan berbentuk limasan. Lantai lama berbahan batu putih berplester tetap dilestarikan di bawah lantai marmer dari Tulungagung yang berukuran 30 cm x 30 cm.
4. Parit
Parit mengelilingi serambi di sisi utara, timur, dan selatan berukuran lebar 2,4 m, dalam 48 cm sebagai sarana pembersihan bagi jemaah yang akan memasuki masjid.
5. Pagar
Pagar masjid berupa pasangan bata motif trancangan mengelilingi parit. Pada sisi timur pagar terdapat 3 pintu masuk, serta satu pintu masuk masing-masing di sisi utara dan selatan pagar. Pintu masuk utama sisi timur berupa portico di atas parit berbentuk kuncungan sebagai pintu masuk ke masjid dari arah timur. Pada bagian kuncungan ini terdapat inskripsi angka tahun perbaikan.