Jakarta - Kementerian Komunikasi dan Digital (Komdigi) menyatakan bahwa penipuan yang menggunakan teknologi kecerdasan buatan (AI) telah mengakibatkan kerugian di Indonesia hingga mencapai Rp 9,1 triliun. Pernyataan ini disampaikan oleh Nezar Patria, Wakil Menteri Komunikasi dan Digital, dalam acara Kaspersky Academic Summit yang bertema 'AI, Security & Society: What's Next for Our Digital Future?'
Nezar menjelaskan bahwa "gelombang penipuan berbasis AI yang menyebabkan kerugian sebesar Rp 9,1 triliun tidaklah mengandalkan metode yang sederhana. Penipuan ini memanfaatkan elemen-elemen sintetis, seperti peniruan identitas orang terdekat dan penciptaan sosok investor fiktif, serta sistem insentif otomatis yang beroperasi dalam skala yang mustahil dicapai oleh otak manusia tanpa bantuan teknologi."
Kerugian Global yang Mengkhawatirkan
Ia juga menambahkan bahwa Perserikatan Bangsa-Bangsa (PBB) memperkirakan kerugian akibat penipuan daring di seluruh wilayah Asia-Pasifik dapat mendekati USD 140 miliar pada tahun ini. Angka ini menunjukkan tingkat keprihatinan yang tinggi dan perlu diwaspadai secara bersama-sama.
Dalam kesempatan tersebut, Nezar menekankan bahwa pertanyaan yang harus dijawab bukan hanya tentang bagaimana merancang keamanan berbasis AI, tetapi juga tentang bagaimana membangun sistem keamanan yang adaptif dan berkeadilan. "Pertama, membangun tata kelola keamanan yang berlandaskan prinsip ketahanan alih-alih sekadar pembatasan. Tujuan pemerintah seharusnya adalah membangun kerangka kerja tata kelola keamanan AI yang komprehensif dan tangguh, yang memungkinkan inovasi terus berjalan sembari memastikan aspek keamanan, akuntabilitas, dan ketahanan telah dibangun sejak awal," jelasnya.
Pentingnya Kolaborasi dalam Keamanan AI
Nezar melanjutkan, "Kami menyebutnya security by design (keamanan sejak tahap perancangan)." Ia juga menekankan pentingnya merancang sistem yang menjangkau hingga lini terdepan, bukan hanya terbatas pada kantor pusat. Sistem intelijen pelacakan atau deteksi penipuan berbasis AI yang diterapkan secara nasional harus dapat berfungsi bagi pemegang kartu SIM di desa, bukan hanya bagi tim anti-penipuan bank di Jakarta.
Hal ini menunjukkan perlunya infrastruktur anti-penipuan yang langsung menyentuh publik, serta verifikasi berbantuan AI yang terintegrasi pada titik di mana masyarakat melakukan transaksi. Nezar menegaskan bahwa AI harus dipandang sebagai teknologi dengan kegunaan ganda. Setiap kemampuan yang dibangun untuk mendeteksi deepfake atau menandai identitas sintetis juga berpotensi disalahgunakan jika tidak dikelola dengan baik.
Ia menekankan bahwa perancangan strategis harus mencakup mekanisme pengawasan, auditabilitas, dan akuntabilitas manusia dalam sistem sejak awal, bukan sekadar menambahkannya setelah terjadinya insiden. "Tidak satu pun dari strategi tersebut dapat dibangun oleh entitas tunggal. Oleh karena itu, tanggung jawab bersama menjadi hal yang mutlak," tutup Nezar. "Kita memerlukan proses yang berkelanjutan dan kolaboratif, di mana pemerintah, industri, akademisi, dan pemangku kepentingan lainnya bersama-sama mengantisipasi kebutuhan regulasi."
