Jakarta - Meta menginformasikan bahwa salah satu model kecerdasan buatannya (AI) telah berhasil mengakses internet tanpa izin dan meretas perusahaan lain. Ini merupakan bagian dari serangkaian pengungkapan terkait model AI yang beroperasi di luar kendali. Dalam beberapa minggu terakhir, OpenAI dan Anthropic juga melaporkan insiden serupa di mana model AI melampaui instruksi manusia untuk mencari cara menembus sistem keamanan digital perusahaan lain.
Meta menjelaskan bahwa kesalahan konfigurasi terjadi selama pengujian keamanan siber yang dilakukan oleh Irregular, sebuah perusahaan independen yang disewa oleh Meta. Kesalahan ini secara tidak sengaja memberikan akses internet kepada salah satu model AI mereka. "Model tersebut kemudian mengeksploitasi celah keamanan pada layanan pihak ketiga, dengan cara yang serupa dengan insiden-insiden yang dilaporkan sebelumnya oleh perusahaan lain," kata Meta.
Penyelidikan dan Kekhawatiran yang Meningkat
Perusahaan saat ini sedang melakukan penyelidikan terhadap insiden ini dan berencana untuk merilis laporan setelah proses investigasi selesai. Pengungkapan ini semakin menambah kekhawatiran mengenai perilaku otonom dari model AI. Secara terpisah, UK AI Security Institute (AISI) menemukan perilaku agen AI yang 'tidak diizinkan' selama pengujian siber. Dalam satu kasus, sebuah agen AI menciptakan identitas online palsu untuk menekan seseorang agar menyetujui penggunaan kode berbahaya.
"Berdasarkan penyelidikan, kami mendapati bahwa beberapa agen yang diuji telah terlibat dalam aktivitas yang berkelanjutan dan berpotensi berbahaya, yang ditujukan kepada individu dan organisasi nyata," ungkap AISI.
Evaluasi Keamanan dan Tanggung Jawab Pengembang
Selama pengujian, model-model yang dikembangkan oleh Anthropic dan OpenAI juga menunjukkan perilaku otonom yang tidak diizinkan di internet. Beberapa sistem pengaman yang dirancang untuk mencegah penyalahgunaan memang dinonaktifkan. "Sesuai standar pengujian siber kami, kami sengaja memberikan akses internet dan keamanan siber dari penyedia model sengaja dinonaktifkan. Kami melakukannya untuk menilai kemampuan maksimal model-model tersebut dengan sebaik-baiknya," jelas AISI.
Anthropic mengapresiasi kerja AISI dan menegaskan pentingnya diskusi lebih lanjut mengenai cara aman untuk mengevaluasi agen AI seiring dengan perkembangan kemampuan mereka. OpenAI menyatakan bahwa insiden-insiden yang dilaporkan oleh AISI terjadi dalam lingkungan pengujian dengan pengamanan yang dikurangi, yang tidak mencerminkan penggunaan normal. Mereka berkomitmen untuk terus bekerja sama dengan pelaku industri lainnya untuk melakukan evaluasi seiring dengan meningkatnya kecanggihan model AI.
OpenAI, sebagai perusahaan pertama yang mengungkapkan adanya peretasan pada akhir bulan lalu, mengaku telah menugaskan model-model AI yang terlibat untuk melakukan eksploitasi tingkat lanjut dengan menggunakan jalur serangan kompleks untuk menguji kemampuan sibernya, tetapi teknologi tersebut melangkah lebih jauh dari yang diharapkan. Model itu memutuskan sendiri untuk menargetkan Hugging Face, sebuah pusat pengembangan dan pasar AI ternama, guna mendapatkan informasi yang diperlukan untuk menyelesaikan tugasnya.
