SMK Negeri 2 Pangkalpinang pada awalnya bernama STM Pangkalpinang didirikan pada tahun 1962 berlokasi di jalan Kacang Pedang Pangkalpinang dengan luas 41.885 M2 berstatus sekolah swasta dan pada awal pendiriannya terdiri dari 2 jurusan yaitu jurusan Mesin dan jurusan Listrik. Pada awal pendiriannya STM Pangkalpinang banyak mendapat bantuan dari PT. Timah, baik guru maupun sarana dan prasananya seperti peralatan praktik dan yang lainnya. Pada tahun 1967 STM Pangkalpinang mulai dilakukan proses pengerjannya secara bertahap dimulai dengan jurusan mesin dan pada tahun 1969 diikuti oleh jurusan listrik dan bangunan.
Sesuai dengan perkembangan ilmu pengetahuan dan teknologi pada tahun 1986 STM Negeri Pangkalpinang menambah 2 (dua) jurusan yang baru yaitu jurusan otomotif dan elektronika, sehingga menjadi 5 jurusan. Berdasarkan kebijakan Direktorat Pendidik Dasar dan Menengah Departemen Pendidikan dan Kebudayaan pada tahun 1993 Sekolah Teknologi Menengah (STM) berubah nama menjadi Sekolah Menengah Kejuruan (SMK) kelompok Teknologi dan industri, demikian juga halnya dengan STM Negeri Pangkalpinang berubah nama menjadi Sekolah Menengah Kejuruan (SMK) Negeri 2 Pangkalpinang.