Masjid adalah sebuah institusi amat penting dalam kehidupan umat Islam. Selain itu, masjid merupakan sarana keagamaan yang memiliki makna strategis bagi umat Islam, tidak saja dalam masalah ritual keagamaan tapi juga berkaitan dengan persoalan-persoalan kemasyarakatan, sosial dan budaya dalam arti luas.
Sebagai masjid utama di Kota Malang, Masjid Agung Jami’ yang terletak di Jalan Merdeka Barat No 3 Malang juga tidak lepas dari fungsi-fungsi tersebut. Apalagi posisi Masjid Agung Jami’ Malang yang awal berdirinya bernama Masjid Jami’ itu letaknya cukup strategis dipusat kota. Tepatnya di sebelah barat alun-alun pusat kota Malang. Di sebelah selatan masjid terdapat bangunan Bank Mandiri (eks. Bank Bumi Daya) dan di sebelah utara terdapat bangunan kantor Asuransi Jiwasraya.
Masjid Agung Jami’ Malang didirikan pada tahun 1890 M di atas tanah Goepernemen atau tanah negara sekitar 3.000 m2. Menurut prasasti yang ada, Masjid Agung Jami’ dibangun dalam dua tahap. Tahap pertama dibangun tahun 1890 M, kemudian tahap kedua dimulai pada 15 Maret 1903, dan selesai pada 13 September 1903. Bangunan masjid ini berbentuk bujursangkar berstruktur baja dengan atap tajug tumpang dua, dan sampai saat ini bangunan asli itu masih dipertahankan keberadaannya.
Ditinjau dari bentuknya, Masjid Agung Jami’ Malang mempunyai dua gaya arsitektur, yaitu arsitektur Jawa dan Arsitektur Arab. Gaya arsitektur Jawa terlihat dari bentuk atap masjid bangunan lama yang berbentuk tajug. Sedangkan gaya arsitektur Arab terlihat dari bentuk kubah pada menara masjid dan juga konstruksi lengkung pada bidang-bidang bukaan (pintu dan jendela).