Artificial Intelligence atau AI menjadi teknologi yang paling sering dibicarakan dan banyak digunakan oleh berbagai sektor. Pada tahun 2024, penggunaan AI telah mencapai tingkat yang signifikan di berbagai sektor industri, termasuk kesehatan, keuangan, ritel, pendidikan, dan transportasi. Berdasarkan laporan terbaru, pasar AI global diperkirakan mencapai lebih dari $500 miliar pada akhir tahun 2024, dengan pertumbuhan lebih dari 35% per tahun.

Dalam dunia bisnis, sekitar 60% perusahaan di seluruh dunia kini telah mengimplementasikan AI ke dalam proses operasional mereka, baik untuk meningkatkan efisiensi kerja, memberikan layanan pelanggan yang lebih baik, maupun mempercepat inovasi produk.

Meski demikian, penggunaan AI dalam kehidupan sehari-hari juga menimbulkan kekhawatiran baru tentang keamanan. Dengan kompleksitas yang tinggi dan penggunaan data yang cukup besar, AI bisa menjadi sasaran empuk bagi serangan siber.

AI tak luput dari serangan siber

Meskipun AI mampu meningkatkan keamanan pada beberapa aspek, teknologi ini juga menyimpan celah yang bisa dieksploitasi. Banyak pelaku kejahatan siber yang menggunakan berbagai cara untuk menyerang, memanipulasi, atau bahkan meniru model AI, yang mengakibatkan kerugian besar, baik dari sisi finansial maupun privasi.

Di tengah pesatnya perkembangan ini, memahami jenis-jenis serangan siber yang sering terjadi pada sistem AI menjadi penting bagi pengembang, pengguna, dan perusahaan yang mengandalkan teknologi ini.

5 Serangan Siber yang Mengintai AI

Adversarial Attack

Adversarial attack adalah teknik di mana penyerang menambahkan modifikasi halus pada input yang diberikan ke sistem AI, membuat model salah menginterpretasi data tersebut. Modifikasi ini biasanya berupa noise atau perubahan kecil yang tidak mudah dikenali oleh manusia, tetapi cukup untuk mengelabui model AI.

Serangan ini sangat berbahaya karena perubahan kecil pada data dapat menyebabkan kesalahan yang fatal, terutama pada aplikasi kritis seperti sistem keamanan atau kendaraan otonom. Adversarial attack ini menunjukkan betapa rentannya sistem AI yang digunakan di dunia nyata terhadap perubahan kecil yang sengaja ditambahkan untuk mengelabui model.

Seiring perkembangan teknologi, para peneliti pun terus mencari cara untuk mengidentifikasi dan mengatasi celah dalam model AI agar bisa tahan terhadap serangan semacam ini.

Poisoning

Serangan poisoning terjadi ketika penyerang memasukkan data yang dimodifikasi ke dalam dataset pelatihan model. Tujuannya adalah membuat model mempelajari pola yang salah atau bias tertentu, yang bisa mengganggu performa model dalam jangka panjang.

Jenis serangan ini sangat berbahaya karena, begitu model belajar dari data yang terkontaminasi, efeknya bisa bertahan lama dan sulit diperbaiki.

Model Extraction Attack

Model extraction adalah serangan di mana penyerang mencoba meniru model AI yang digunakan oleh perusahaan atau individu.

Dengan mengajukan banyak pertanyaan atau input, penyerang bisa mendapatkan cukup banyak informasi tentang model target untuk menciptakan model serupa tanpa perlu melatihnya sendiri.

Hal ini tentu saja bisa merugikan perusahaan yang mengandalkan model tersebut untuk menyediakan layanan.

Serangan model extraction dapat menyebabkan kerugian finansial bagi perusahaan, karena model yang mereka kembangkan dengan biaya tinggi dapat disalin oleh pihak yang tidak berwenang.

Oleh karena itu, perusahaan perlu melindungi model mereka dari eksploitasi dengan menggunakan metode enkripsi atau membatasi akses yang diberikan ke model secara ketat.

Membership Inference Attack

Membership inference attack bertujuan untuk menentukan apakah data tertentu digunakan dalam dataset training model AI.

Hal ini tentu menimbulkan masalah privasi, terlebih jika data yang digunakan adalah data-data sensitif seperti informasi kesehatan atau data pribadi lainnya. Jika penyerang berhasil, maka mereka dapat memperoleh informasi sensitif yang ada dalam dataset.

Membership inference membahayakan dalam hal privasi, terutama pada aplikasi yang menggunakan data sensitif.

Maka dari itu, perusahaan yang menggunakan data sensitif dalam training model AI perlu mempertimbangkan teknik pengamanan data seperti differential privacy untuk melindungi informasi pribadi pengguna.

Data Injection Attack

Data injection attack melibatkan penyuntikan data palsu atau berbahaya ke dalam sistem yang beroperasi secara langsung.

Penyerang menggunakan data palsu ini untuk mengubah pola pembelajaran model sehingga output yang dihasilkan tidak sesuai harapan. Serangan ini sering terjadi pada sistem AI yang beroperasi secara real-time dan terus belajar dari input pengguna.

Data injection attack mengungkapkan pentingnya validasi input dalam sistem AI yang beroperasi secara langsung. Dengan memantau input secara berkala dan mengidentifikasi pola anomali, perusahaan dapat mencegah data palsu merusak pengalaman pengguna.