Departemen Fisika berdiri melalui Surat Keputusan Menteri Pendidikan dan Kebudayaan Republik Indonesia No. 72 tahun 1965. Pada saat itu Departemen Fisika yang menyelenggarakan program studi Sarjana (S1) berada di bawah Fakultas Ilmu Pasti dan Ilmu Alam (FIPIA). Sejak tahun 1983, dengan adanya pengaturan struktur organisasi di ITS, Departemen Fisika berada di bawah Fakultas Matematika dan Ilmu Pengetahuan Alam (FMIPA) yang diresmikan pada tahun 1982 dengan Peraturan Pemerintah No. 5/1980 dan No. 27/1981. Dalam perkembangan selanjutnya setelah hampir dua dasawarsa berlalu di lingkungan FMIPA, Departemen Fisika telah mendapatkan akreditasi A untuk program Sarjana (S1) pada tahun 1999, dan telah diperbarui pada tahun 2012 dan 2017 dengan nilai akreditasi A dari Badan Akreditasi Nasional – Perguruan Tinggi (BAN PT).

Mulai tahun 2001, Departemen Fisika telah memiliki program Magister (S2) dan telah memperoleh akreditasi B pada tahun 2006 untuk program ini dan telah diperbaharui pada tahun 2013 dengan nilai akreditasi A. Untuk mengakomodasi perkembangan Fisika dan penerapannya, Departemen Fisika mengembangkan 5 (lima) kelompok bidang minat, yaitu Fisika Material, Instrumentasi, Fisika Teori, Optoelektronika, dan Fisika Bumi. Dengan perkembangan pada bidang-bidang minat tersebut, mulai semester genap tahun akademik 2007 – 2008 telah dibuka program Doktor (S3) Fisika di Departemen Fisika, dengan surat persetujuan dari Ditjen Dikti pada tahun 2007 dan telah memperoleh akreditasi A pada tahun 2013.