Gedung Masjid Margoyuwono berdiri pada sebidang lahan berada di utara Jalan Langenastran Lor menghadap ke arah timur. Saat ini kompleks masjid terdiri dari beberapa massa bangunan baru dan bangunan lama. Bangunan lama berfungsi sebagai masjid dan bangunan penunjang (ruang takmir dan ruang poliklinik, ruang abc, xyz. Bangunan baru terdiri dari bangunan abc, xyz. Tempat wudhu di ujung timur laut bangunan masjid berupa bangunan baru. Bangunan lama adalah sebagai berikut.
1. Bangunan Masjid:
Bangunan masjid terdiri dari dua bagian yaitu ruang utama dan serambi. Bangunan utama masjid berdenah bujur sangkar beratap tajug bertingkat tiga, Bentuk tajug umumnya digunakan untuk bangunan pemujaan dan ibadah/masjid. Bangunan serambi berdenah persegi panjang beratap limasan.
Pada dinding luar bangunan utama sisi utara, barat dan selatan terbagi dua yaitu pada bagian bawah dari dasar bangunan sampai dengan ketinggian di bawah jendela di-finish batu belah ekspose, dilengkapi elemen berbentuk profil setengah lingkaran. Bagian atas berupa dinding dengan ketebalan satu batu (± 30 cm) sampai batas kuda-kuda atap.
Pada dinding sisi barat bangunan utama di tengah terdapat pengimaman (mihrab). Pada dinding sisi selatan dan utara masing-masing terdapat dua buah jendela dan sebuah pintu. Dinding bagian timur terdapat tiga pintu yaitu sebagai pintu masuk utama. Semua pintu dan jendela berupa daun ganda arah bukaan ke dalam dengan bagian bawah panil kayu dan bagian atas jeruji kayu, ventilasi bagian atas pintu dan jendela berbentuk lengkung kemudian meruncing di bagian atas dengan jalusi/jeruji dari kayu berbentuk cakra. Pada setiap sisi dinding terdapat juga lubang ventilasi berbentuk bulat berjumlah 4 buah. Dinding bagian dalam setinggi sampai di bawah jendela dilapis tegel PC ukuran 20x20 cm berwarna hijau.
Lantai bangunan utama masjid menggunakan ubin PC berwarna kuning ukuran 20x20 cm ditutup karpet.
Plafon menggunakan bahan asbes ukuran 100x100 cm yang diplepet kayu warna hijau. Pada bagian tepi plafon dibuat drop-ceiling 20 cm yang berjarak 2 m sepanjang tepi dinding.
Bangunan serambi di sisi timur bangunan utama masjid terdapat kolom-kolom bulat motif ornamen flora yang dihubungkan satu dengan yang lain oleh elemen profil lengkung dan papan kayu yang membentuk lengkung sekaligus berfungsi sebagai srawing (sunscreen). Lantai serambi lebih rendah dua trap dari lantai utama dengan penutup lantai berupa tegel kuning ukuran 20x20 cm variasi garis hijau. Plafon serambi dari asbes ukuran 100x100 cm dengan plepet kayu setinggi “?
Kuda-kuda, gording, usuk dan reng atap berupa kayu jati, dengan penutup atap genteng tanah liat model kodok. Teritisan bangunan utama masjid dan serambinya tidak berplafon, dipasang talang air keliling teritisan.
Pada selatan serambi tergantung sebuah kentongan kayu setinggi lebih kurang 250 cm.
2. Bangunan penunjang:
Bangunan penunjang untuk pengurus masjid di sisi utara bangunan utama masjid yang dipergunakan untuk ruang takmir, ruang poliklinik, ruang koperasi dan hal.
Bangunan penunjang dengan masjid dihubungkan oleh doorloop selebar 170 cm, dengan kolom bulat setinggi ...cm, yang dihubungkan satu dengan yang lain oleh elemen profil lengkung dan papan kayu yang kemudian membentuk lengkung sekaligus berfungsi sebagai srawing.
Lantai bangunan penunjang dan doorloop berupa tegel abu-abu ukuran 20x20 cm.
Terdapat sebuah kentongan kayu yang menjadi kelengkapan masjid terletak di selatan serambi masjid. Kentongan ini menurut informasi sudah ada sebelum tahun 1968. Kentongan ini berasal dari Masjid Mangkubumen Kadipaten, dipindah atas ijin Sultan Hamengku Buwono IX.
Ornamen pada masjid ini juga menggunakan kaligrafi. Pada bagian luar mihrab terdapat kaligrafi “Wasjud Waqtarib”, dan di atas pintu utama di bagian dalam terdapat
