Suara dan Wajah Bisa Dipalsukan AI, Komdigi Peringatkan Ledakan Scam Deepfake

Kementerian Komunikasi dan Digital mengingatkan masyarakat untuk mewaspadai meningkatnya ancaman penipuan digital. Hal ini seiring pesatnya perkembangan teknologi kecerdasan buatan atau artificial intelligence (AI) yang dapat meniru suara, wajah, hingga membuat video palsu sangat realistis.

“Sekarang suara kita bisa ditiru, gambar wajah kita bisa ditiru, dan tampil dalam bentuk deepfake video yang dihasilkan oleh AI dengan sangat mulus,” kata Wakil Menteri Komunikasi dan Digital Nezar Patria dalam pernyataan tertulisnya, Rabu (17/6).

Nezar mengingatkan, perkembangan AI berlangsung sangat cepat. Teknologi AI telah bergerak dari  fase generative menuju pengembangan agentic,  yang memiliki kemampuan melakukan penalaran dan mengambil keputusan secara lebih mandiri.

Di satu sisi, menurut dia, kemajuan AI membawa manfaat besar bagi berbagai sektor. Namun teknologi tersebut juga melahirkan risiko baru yang perlu diantisipasi, terutama dalam bidang keamanan siber.

Nezar menyoroti semakin maraknya pemanfaatan AI oleh pelaku kejahatan digital untuk melakukan scam atau penipuan. Dengan bantuan teknologi deepfake, pelaku dapat membuat konten manipulatif yang sulit dikenali sebagai rekayasa.

Ia menyebut, fenomena tersebut sebagai bagian dari perkembangan synthetic reality atau realitas sintetik. Ini merupakan kondisi ketika konten hasil rekayasa AI tampak sangat mirip dengan kenyataan sehingga sulit dibedakan oleh masyarakat umum.

“Awamnya masyarakat kita tentang perkembangan AI ini membuat banyak yang terkecoh. Itu sebabnya scam saat ini luar biasa,” ujarnya.

Selain ancaman penipuan digital, Nezar juga menyoroti pentingnya penerapan prinsip human in the loop dalam pengembangan agentic AI. Prinsip tersebut menempatkan manusia sebagai pengawas dalam proses pengambilan keputusan yang dilakukan oleh sistem AI.

Menurutnya, sejumlah pakar teknologi telah mengusulkan penerapan protokol yang lebih ketat agar keputusan-keputusan penting tetap berada di bawah kendali manusia.

“Banyak pakar mengusulkan agar dilakukan satu protokol yang cukup ketat, termasuk menerapkan prinsip human in the loop dalam decision making,” jelasnya.

Nezar menilai, pendekatan etika AI tidak lagi cukup jika hanya bersifat sukarela. Ia menekankan bahwa prinsip-prinsip seperti transparansi, akuntabilitas, dan keamanan harus menjadi bagian yang melekat dalam proses pengembangan teknologi melalui pendekatan ethics by design.

Karena itu, Kementerian Komdigi mendorong kolaborasi antara pengembang teknologi, pelaku industri, akademisi, dan komunitas pengguna AI. Hal ini untuk memperkuat tata kelola serta mitigasi risiko sejak tahap perencanaan.