Wamenkomdigi Minta Platform Digital Sediakan Fitur Deteksi Konten AI

Wakil Menteri Komunikasi dan Digital (Wamenkomdigi) Nezar Patria meminta platform digital global untuk menghadirkan fitur deteksi konten buatan kecerdasan artifisial (AI). Fitur ini dinilai penting untuk membantu masyarakat mengenali hoaks dan mencegah penyalahgunaan teknologi deepfake.

“Kita berharap platform media sosial global juga bisa melakukan filter, atau setidaknya menyediakan fitur untuk mengecek apakah sebuah konten buatan AI atau bukan. Fitur ini sebaiknya bisa digunakan publik secara gratis,” ujar Nezar dalam Talkshow Bentara Nusantara, Jakarta, dikutip dari siaran pers, Rabu (10/9). 

Ia menyoroti tren konten deepfake yang semakin masif. Berdasarkan data Sensity AI, jumlah konten deepfake melonjak 550% dalam lima tahun terakhir.

“Saya yakin jumlahnya jauh lebih besar karena kemampuan aplikasi untuk membuat video atau foto deepfake kini sangat masif,” kata dia.

Perusahaan teknologi global seperti Meta dan Google disebut memiliki kekuatan komputasi serta algoritma yang dapat dimanfaatkan untuk kepentingan publik, misalnya dalam mendeteksi konten yang dibuat oleh AI.  

“Kalau kita meragukan satu isi konten, bisa dicek dengan kekuatan komputasi dan AI yang mereka punya. Fitur seperti ini bisa menjadi layanan standar,” ujarnya.

Ia menekankan bahwa pemerintah berupaya menyeimbangkan inovasi teknologi dengan regulasi agar AI tidak disalahgunakan untuk menyebarkan hoaks. Di Indonesia, UU ITE, UU PDP, PP TUNAS, serta sejumlah aturan teknis lainnya mengatur keamanan di ruang digital.  

Menyiapkan Regulasi Khusus

Selain itu, pemerintah juga tengah menyiapkan regulasi khusus mengenai pemanfaatan AI yang etis, bermakna, dan bertanggung jawab. “Ruang digital ini milik kita bersama, maka kita perlu kerja sama yang erat untuk menjaga publik dari hoaks dan konten negatif,” kata Nezar.

Untuk memperkuat langkah ini, Kementerian Komdigi menggandeng ekosistem luas, termasuk Masyarakat Anti Fitnah Indonesia (Mafindo) dan media, dalam program cek fakta.

Ketua Mafindo, Septiaji Eko Nugroho mengungkap bahwa fenomena deepfake pertama kali terdeteksi di Indonesia pada 2023 dan kini berkembang pesat. Konten ini sering digunakan untuk penipuan digital maupun memengaruhi opini publik, terutama terkait isu politik.

“Untuk isu politik juga ada, tapi deepfake paling banyak digunakan untuk penipuan digital. Kalau ada konten hoaks berbentuk video yang muncul di tahun 2025 dengan tema penipuan digital, itu mayoritas adalah deepfake,” ujarnya.