Jakarta - Dengan pesatnya perkembangan teknologi kecerdasan buatan (Artificial Intelligence/AI), banyak penjahat yang memanfaatkan inovasi ini untuk melakukan penipuan digital, seperti deepfake yang dapat meniru wajah, suara, hingga video seseorang dengan tingkat kesamaan yang sangat tinggi. Wakil Menteri Komunikasi dan Digital, Nezar Patria, mengungkapkan bahwa kemajuan AI telah membuat modus penipuan digital menjadi semakin rumit dan berbahaya, karena masyarakat sering kali kesulitan membedakan antara konten asli dan yang telah dimanipulasi.
“Sekarang suara kita bisa ditiru, gambar wajah kita bisa ditiru, dan tampil dalam bentuk deepfake video yang dihasilkan oleh AI dengan sangat mulus,” kata Nezar.
Perkembangan AI dan Tantangan Keamanan Siber
Nezar menjelaskan bahwa adopsi AI saat ini berlangsung dengan sangat cepat, bahkan telah melampaui fase generative AI menuju era agentic AI, yaitu sistem yang memiliki kemampuan lebih mandiri dalam melakukan penalaran dan pengambilan keputusan. Meskipun teknologi ini menawarkan banyak manfaat bagi sektor bisnis, pendidikan, kesehatan, dan pemerintahan, kemajuan tersebut juga membawa risiko baru yang harus diwaspadai.
Dalam konteks keamanan siber, Nezar menekankan bahwa pelaku kejahatan digital memanfaatkan AI untuk menjalankan berbagai modus penipuan online. Teknologi deepfake yang semakin maju memungkinkan penjahat untuk memalsukan identitas seseorang demi menipu korban. “Hasil manipulasi AI kini telah berkembang menjadi apa yang disebut sebagai synthetic reality atau realitas sintetik, yakni konten digital yang tampak sangat nyata sehingga sulit dikenali sebagai hasil rekayasa,” ujarnya.
Pentingnya Literasi Digital dan Etika AI
Nezar menambahkan bahwa kurangnya pemahaman masyarakat tentang perkembangan AI membuat banyak orang terjebak dalam penipuan. “Awamnya masyarakat kita tentang perkembangan AI ini membuat banyak yang terkecoh. Itu sebabnya scam saat ini luar biasa,” ungkapnya. Oleh karena itu, peningkatan literasi digital di kalangan masyarakat menjadi langkah penting untuk mengurangi risiko penyalahgunaan teknologi AI. Masyarakat perlu menyadari bahwa foto, suara, maupun video yang beredar di dunia digital tidak selalu mencerminkan kenyataan.
Selain itu, Nezar juga menggarisbawahi pentingnya pengembangan agentic AI yang memiliki kemampuan untuk mengambil keputusan secara lebih mandiri dibandingkan generasi AI sebelumnya. Ia menyatakan bahwa banyak akademisi dan pakar teknologi telah mengusulkan penerapan protokol yang lebih ketat untuk memastikan bahwa keputusan penting tetap berada dalam kendali manusia. “Banyak pakar mengusulkan agar dilakukan satu protokol yang cukup ketat, termasuk menerapkan prinsip human in the loop dalam decision making,” jelasnya.
Prinsip human in the loop mengharuskan adanya keterlibatan manusia dalam proses pengawasan dan pengambilan keputusan akhir, terutama untuk keputusan yang berdampak signifikan terhadap individu maupun masyarakat. Nezar juga menekankan bahwa pembahasan mengenai etika AI saat ini tidak bisa lagi dilakukan secara sukarela seperti pada tahap awal perkembangan teknologi tersebut. Ia menilai bahwa prinsip-prinsip seperti transparansi, akuntabilitas, keamanan, dan perlindungan pengguna harus menjadi bagian integral sejak tahap perancangan teknologi melalui pendekatan ethics by design.
“Transparency, accountability, safety, itu harus hadir di dalam implementasi, di dalam pengembangan satu produk AI,” tegasnya. Untuk itu, pemerintah mendorong kolaborasi antara pengembang teknologi, pelaku industri, akademisi, dan komunitas pengguna AI dalam memperkuat tata kelola serta mitigasi risiko sejak tahap awal pengembangan. “Semoga kita bisa merumuskan langkah-langkah yang tepat dan pemikiran dari forum ini mungkin bisa menjadi pertimbangan-pertimbangan dalam membuat satu kebijakan AI yang etis di Indonesia,” tutupnya.
