Didirikan pada tahun 1965 berdasarkan surat keputusan Menteri Pendidikan dan Kebudayaan RI Nomor 72 Tahun 1965. Pada saat berdiri, Jurusan Matematika berada di bawah Fakultas Ilmu Pasti dan Ilmu Alam (FIPIA) yang sekarang menjadi Fakultas Matematika dan Ilmu Pengetahuan Alam (FMIPA) ITS.

Tahun 1983, ITS (Institut Teknologi Sepuluh Nopember) mengalami perubahan struktur organisasi yang mengakibatkan ITS memiliki 5 Fakultas dan nama FIPIA berubah menjadi FMIPA dengan 4 jurusan, yaitu Fisika, Matematika, Statistika, dan Kimia

Dalam tahun 1987 sampai dengan 1992 Jurusan Matematika FMIPA ITS telah menjalin suatu kerjasama dengan Fakultas Matematika Tenik dan Informatika, Delft University of Technology (DUT) Belanda. Kerjasama tersebut antara lain dalam bentuk perbaikan kurikulum, peningkatan sarana dan prasarana pendidikan, pelatihan bagi dosen dan pengiriman dosen untuk studi lebih lanjut. Kerjasama dengan Belanda ini dilaksanakan lagi dalam bentuk Reseach Workshop (RWS) yang diadakan tahun 1998 dan 2003.

Salah satu hasil kerjasama tersebut adalah disempurnakannya kurikulum 1994 dan 1999 sehingga ditetapkan adanya lima bidang minat (Aljabar, Analisis, Model dan Sistem, Riset Operasi dan Simulasi, Ilmu Komputer). Untuk kurikulum 2009 yang berbasis kompetensi, lima bidang minat tersebut disesuakan menjadi empat Rumpun Mata Kuliah(RMK):

1. RMK Analisis & Aljabar.
   Rumpun ini menekankan pada pemahaman dan pengembangan dasar-dasar Matematika, Analisi, dan Aljabar sehingga mampu mengikuti dan mengembangkan teori-teori baru matematika dan ilmu lain.
2. RMK Pemodelan dan Sistem.
   Rumpun ini menekankan pada pemahaman dan pengembangan dasar-dasar Matematika, Pemodelan Sistem dan Simulasi, sehingga mampu mengembangkan dan menerapkannya dalam permasalahan nyata.
3. RMK Riset Operasi dan Pengolahan Data
   Rumpun ini menekankan pada pemahaman dan pengembangan dasar-dasar Matematika, Riset Operasi, Pengolahan Data Statistika, Proses Stokastik,  sehingga mampu mengembangkan dan menerapkannya dalam permasalahan nyata.
4. RMK Ilmu Komputer
   Rumpun ini menekankan pada pemahaman dan pengembangan dasar-dasar Matematika, Ilmu Komputer dan Sistem Informasi sehingga mampu membangun dan mengembangkan perangkat lunak yang profesional

Pada kurikulum 2014, bidang-bidang keahlian disederhanakan menjadi 3 bidang yaitu Analisis dan Aljabar, Matematika Terapan dan Ilmu Komputer. Bidang Matematika Terapan merupakan penggabungan bidang Pemodelan Simulasi dan bidang Riset Operasi dan Pengolahan Data. Hal ini dilakukan untuk memudahkan kerjasama penelitian antar bidang dan memberikan kesempatan yang lebih luas dan pilihan yang lebih fleksibel kepada mahasiswa.

Kini FMIPA terbagi dua, menjadi Fakultas Ilmu Alam (FIA) dan Fakultas Matematika, Komputasi dan Sains Data (FMKSD). Didalam Fakultas Komputasi dan Sains Data terdiri dari tiga departemen: Matematika, Statistika dan Aktuaria.

Tahun 2019 mendirikan Program Studi Doktor (S3) menitikberatkan pada pengembangan matematika terapan yang didukung oleh kemampuan analisis dan aljabar serta komputasi yang kuat.

Perubahan Fakultas, menjadi Fakultas Sains dan Analitika Data