Kampus ITS, ITS News — Seiring perkembangan teknologi, kebutuhan keamanan data semakin digalakkan, salah satunya melalui pengembangan Local Large Language Models (LLM). Mendukung upaya tersebut, Institut Teknologi Sepuluh Nopember (ITS) memfasilitasi penyelenggaraan Konferensi Teknologi Informasi (IT) Security Indonesia atau dikenal sebagai IdSecConf.
Pada konferensi yang digelar di Aula Prof Handayani Tjandrasa Departemen Teknik Informatika ITS, pemateri kegiatan Mohammad Ali Syarief menuturkan bahwa data semakin menjadi fokus utama bagi perusahaan. Pesatnya perkembangan teknologi mendorong perusahaan mulai bergantung pada kecerdasan buatan untuk otomatisasi dan efisiensi pengolahan data mereka. “Sayangnya, penggunaan Artificial Intelligence (AI) sering disimpan pada server pihak ketiga,” jelasnya.
Padahal, imbuhnya, LLM lokal memiliki peran krusial karena beberapa tugas perusahaan harus melakukan pengolahan data berbasis teks yang kerap memakan waktu. Tugas yang sering memakan waktu di antaranya penyaringan surel dan klasifikasi dokumen. Berkat LLM lokal yang dikembangkan laki-laki yang kerap disapa Kang Ali tersebut, perusahaan perusahaan dapat meningkatkan produktivitas dan mengurangi ketergantungan pada tenaga kerja.
Akan tetapi, peran dari AI tersebut kini cukup riskan karena data akan tersimpan pada cloud atau server pihak ketiga berpotensi terjadi kebocoran data atau pelanggaran privasi. Bahkan, apabila dilansir dari CNN, Indonesia menempati urutan ke-9 negara dengan kebocoran data pengguna ChatGPT terbanyak, sebesar 2.555 akun. ”Hal tersebut menunjukkan krusialnya peran AI yang andal dan menjamin keamanan data,” ucap Kang Ali.
Untuk mengatasi risiko kebocoran data, konten kreator bidang IT tersebut mengembangkan LLM lokal yang lebih aman dibandingkan model AI konvensional yang membutuhkan jaringan eksternal. “LLM Lokal yang dikembangkan menggunakan basis data kembangkan sendiri, sehingga tidak ada data yang keluar,” Jelasnya.
LLM Lokal yang dikembangkan memanfaatkan sistem belakang Ollama dan sistem antarmuka OpenwebUI sebagai komponen utama. Sistem ini memungkinkan pengguna menjalankan LLM secara lokal tanpa memerlukan koneksi internet. Setelah model Ollama diunduh, pengguna dapat mengoperasikan LLM tanpa memerlukan jaringan internet. Hal tersebut menjadikannya solusi Artificial Intelligence (AI) yang terjangkau untuk penggunaan lokal.
Kang Ali menambahkan, teknologi ini pun menawarkan berbagai manfaat bagi sektor lain yang berhubungan erat dengan data. Sektor yang dimaksud ialah perbankan, layanan kesehatan, dan pemerintahan. Selain mengurangi ketergantungan pihak ketiga, LLM lokal memungkinkan perusahaan membangun model AI khusus yang sepenuhnya terintegrasi dengan sistem keamanan internal.
Kang Ali pun menyampaikan bahwa apabila menilik manfaat yang ditawarkan, Indonesia perlu mengembangkan LLM lokal guna meningkatkan keamanan data pengguna. LLM lokal tersebut diprediksi akan semakin diminati dalam beberapa tahun mendatang sebagai solusi AI yang mengedepankan keamanan data di era digital. (*)
Reporter: ION 20
Redaktur: Mohammad Febryan Khamim
Kampus ITS, ITS News — Rangkaian penutupan kegiatan Manajemen Bisnis Festival (MANIFEST) disuguhkan dengan penuh makna. Melalui talkshow, acara
Kampus ITS, ITS News — Nelayan kerang kini dihadapkan pada tantangan serius akibat menumpuknya limbah cangkang kerang yang terus
Kampus ITS, ITS News — Institut Teknologi Sepuluh Nopember (ITS) terus berupaya mendorong peningkatan kualitas pendidikan dan kesejahteraan guru
Kampus ITS, ITS News — Untuk tingkatkan kualitas maggot, tim mahasiswa Institut Teknologi Sepuluh Nopember (ITS) inovasikan metode untuk meningkatkan