SMP Negeri 2 Bandung dimulai sekitar tahun 1948 dengan nama Indofuropese Vereneging Kubbk School dan berlokasi di Jalan Kalipah Apo. Kemudian berturut-turut pindah ke Jalan Kasatriaan, Jalan Papandayan, dan Jalan Babatan. Pemindahan terakhir SMP Negeri 2 Bandung adalah ke lokasi saat ini, yaitu di Jalan Sumatera, dan pada tahun 1950 berubah nama menjadi SMP Negeri 2 Bandung.
SMP Negeri 2 Bandung menempati bangunan bekas sekolah Belanda, yaitu Urfese Larage School yang dibangun pada tahun 1913 oleh Pemerintah Hindia Belanda dan diambil alih oleh pemerintah Indonesia hingga sekarang. Posisinya kira-kira 400 meter di sebelah selatan Kantor Wali Kota Bandung.