Pada tanggal 1 Januari 2018 Madrasah Aliyah Negeri 3 Malang berubah nama menjadi Madrasah Aliyah Negeri 2 Kota Malang berdasarkan KMA nomor 673 tahun 2016 tentang Perubahan Nama Madrasah Aliyah Negeri, Madrasah Tsanawiyah Negeri dan Madrasah Ibtidaiyah Negeri di Provinsi Jawa Timur.

Madrasah Aliyah Negeri 2 Kota Malang sebelumnya adalah Madrasah Aliyah Negeri 3 (MAN 3) Malang, merupakan salah satu Madrasah Aliyah Negeri model di Indonesia yang didirikan berdasarkan alih fungsi dari PGAN Malang dengan SK Menteri Agama nomor: 42 tahun 1992 pada tanggal 7 Januari 1992. Dengan demikian sejarah MAN 2 Kota Malang tidak bisa dipisahkan dari sejarah PGAN Malang yang merupakan salah satu PGAN tertua di Indonesia.

Madrasah Aliyah Negeri 2 Kota Malang adalah lembaga pendidikan umum ditingkat menengah, yang diselenggarakan oleh Kementerian Agama dengan mempunyai keunggulan dibidang pemahaman agama Islam. MAN 2 Kota Malang yang sebelumnya bernama MAN 3 Malang telah dipilih oleh Departemen Agama menjadi salah satu MAN Model di Indonesia berdasarkan SK Dirjen Binbaga Islam Nomor E.IV/PP.00.6/KEP/17.A/1998 tanggal 20 Februari 1998 memiliki potensi yang sangat besar untuk menjadi pusat keunggulan akademik dan nonakademik. Dengan perjalanan yang penuh tantangan berhasil di lalui melalui perjuangan menuju Madrasah yang dijadikan pilihan utama oleh masyarakat.

Secara kronologis dapat diuraikan sebagai berikut :

  • PGAA Malang dimulai tahun ajaran baru pada tanggal 1 (satu) Agustus 1956, dengan nama PGAAA 1 Malang dengan Kepala R. Soeroso, sedang PGAA II Malang adalah asal dari PGAA Surabaya yang pada tahun 1958 dipindah ke Malang.
  • PGAA I Malang menumpang siswa dari PGAA 4 tahun, sedangkan PGAP pada waktu itu (tahun 1956) dipimpin oleh Kepala Bapak Soerat Wirjodihardjo.
  • Gedung pertama PGAP dan PGAA 1 Malang adalah di Jalan Bromo No. 1 pagi hari untuk PGAA 1 tahun dan sore hari PGAP 4 tahun.
  • Pada tahun ajaran 1956/1957 di Malang masih ada siswa SGHA (bagian dan/Hukum agama) yang kemudian dihapus.
  • Gedung PGAA 1 Malang pada pertengahan tahun ajaran 1958 berhubungan dengan gedung baru PGAA 1 sudah selesai pembangunannya yang terletak di jalan Bandung No. 7 Malang, maka gedung yang baru (Jl. Bandung No. 7 Malang) segera ditempati, begitu pula pada PGAP 4 tahun turut pindah di jalan Bandung No. 7 Malang.
  • Pada akhir tahun 1958 PGAA Surabaya dipindah ke Malang dengan nama PGAA II Malang dengan Kepala Ibu Mas’ud yang kemudian tahun 1959 dipindah ke Dinoyo Malang.
  • Pada tahun 1958/1959 PGAA I dan PGAP 4 tahun dilebur menjadi satu yaitu PGA Negeri 6 tahun Malang, kelas I s/d VI, dengan Kepala Bapak R.D. Soetario.
  • Pada tahun 1961 s/d 1965 kepala sekolah dijabat Bapak R. Soemarsono dan tahun 1966 s/d 1978 Kepala Bapak Drs. Imam Effendi, tahun 1979 s/d 1987 Kepala Bapak Sakat, tahun 1988 s/d 1990 Kepala Bapak H. Sanusi, tahun 1990 s/d akhir 1991 Kepala Drs. Mahsjudin dan Bapak Kepala Drs. Untung Saleh menjabat sejak tanggal 16 Desember 1991 s/d September 1993.
  • Pada tanggal 1 Juli 1992 dengan Surat Keputusan Menteri Agama RI Nomor 42 tahun 1992 PGAN Malang dialihfungsikan menjadi Madrasah Aliyah Negeri (MAN) Malang III dengan kepala sekolah Drs. Untung Saleh.
  • Dan pada tanggal 16 Juni 1993 dengan Surat Keputusan Direktorat Jendral Pembinaan Kelembagaan Agama Islam No. E./55/1993, MAN Malang diberi wewenang untuk menyelenggarakan Madrasah Aliyah Program Khusus.
  • Pada tanggal 30 September 1993 dijabat oleh Bapak Drs. H. Kusnan A, sampai dengan tanggal 31 Mei 1998
  • Pada tanggal 20 Februari 1998 dengan Surat Keputusan Direkturat Jendral Pembinaan Kelembagaan Agama Islam no. E.IV/Pembinaan.00.6/KEP/17.A/1998 ditunjuk sebagai MAN Model dengan Kepala Drs. H. Kusnan A.
  • Pada tanggal 1 Juni 1998 Kepala MAN 3 Malang dijabat Oleh Bapak Drs. H Munandar menjabat sampai dengan tanggal 20 September 2000.
  • Pada tanggal 20 September 2000 Kepala MAN 3 Malang di Jabat oleh Bapak Drs. H. Abdul Djalil, M.Ag  sampai dengan tannggal 30 April 2005
  • Kepala MAN 3 Malang Bapak. Dr. Imam Sujarwo, M.Pd menjabat dari tanggal 02 Mei 2005 sampai dengan 29 Februari 2012.
  • Kepala MAN 3 Malang Bapak. Dr. H. Ahmad Hidayatullah, M.Pd menjabat dari tanggal 29 Februari 2012 sampai dengan 11 Agustus 2014.
  • Kepala MAN 3 Malang Ibu Dr. Binti Maqsudah, M.Pd menjabat dari tanggal  21  Agustus 2014 sampai dengan sekarang.
  • Pada tanggal 1 Januari 2018 MAN 3 Malang berubah nama menjadi MAN 2 Kota Malang berdasar KMA nomor 673 tahun 2016 tentang Perubahan Nama Madrasah Aliyah Negeri, Madrasah Tsanawiyah Negeri dan Madrasah Ibtidaiyah Negeri di Provinsi Jawa Timur.