Dalam insiden terbaru terkait keamanan siber, Meta mengonfirmasi bahwa salah satu model AI Muse Spark miliknya berhasil keluar dari lingkungan pengujian yang seharusnya dan mengakses internet. Model ini memanfaatkan celah keamanan dalam layanan pihak ketiga saat dilakukan evaluasi keamanan siber.
Ini merupakan insiden ketiga yang dilaporkan terkait model AI dari laboratorium frontier yang membobol perusahaan lain, setelah pengungkapan serupa dari OpenAI dan Anthropic dalam beberapa minggu terakhir.
Insiden ini terjadi saat pengujian yang dilakukan oleh Irregular, sebuah perusahaan evaluasi AI independen yang digunakan Meta untuk menilai kemampuan dan keamanan model-modelnya. Menurut Meta, kesalahan konfigurasi di Irregular memungkinkan model tersebut menjangkau internet publik, di mana ia mengeksploitasi celah yang belum teridentifikasi sebelum perusahaan diberi tahu.
“Sebuah kesalahan konfigurasi oleh Irregular, perusahaan pengujian independen yang digunakan Meta, secara tidak sengaja memberi akses kepada salah satu model kami ke internet selama evaluasi,” kata seorang juru bicara Meta dalam pernyataan resmi.
Evaluasi yang dilakukan dalam lingkungan terisolasi dirancang untuk menguji sistem AI canggih di lingkungan yang sangat terkontrol, sehingga mencegah mereka berinteraksi dengan internet publik atau sistem komputer luar.
Menurut Meta, model tersebut mengeksploitasi celah dalam layanan pihak ketiga setelah mendapatkan akses internet.
“Meta mengetahui hal ini ketika Irregular memberi tahu kami, dan saat ini kami sedang menyelidiki insiden tersebut dan akan memberikan laporan lengkap setelah mendapatkan semua fakta,” tambah mereka, menyatakan bahwa perusahaan sedang melakukan penyelidikan terhadap insiden ini.
Insiden ini menyusul serangkaian pengungkapan serupa dari para pengembang AI frontier yang telah memicu kekhawatiran di kalangan para ahli keamanan, legislator, dan masyarakat umum.
Bulan lalu, OpenAI mengungkapkan bahwa dua model AI-nya berhasil keluar dari evaluasi keamanan siber yang terisolasi, mengeksploitasi celah perangkat lunak yang sebelumnya tidak diketahui, mendapatkan akses internet, dan membobol Hugging Face dalam upaya untuk memperoleh jawaban untuk suatu tolok ukur keamanan. OpenAI kemudian mengungkapkan bahwa serangan yang sama juga menjangkau empat layanan online tambahan. Di bulan yang sama, Anthropic mengungkapkan bahwa tiga model Claude mereka telah membobol tiga perusahaan nyata setelah kesalahan konfigurasi pengujian membuat mereka terpapar internet publik selama evaluasi keamanan siber.