Komdigi Wanti-wanti Ancaman Deepfake, Konten AI Makin Sulit Dibedakan dari Asli

Wakil Menteri Komunikasi dan Digital (Komdigi) Nezar Patria mengingatkan perkembangan kecerdasan buatan atau AI menghadirkan tantangan baru berupa konten sintetis atau deepfake yang semakin sulit dibedakan dari konten asli. Kondisi ini dinilai meningkatkan risiko penyebaran disinformasi di ruang digital.

Menurutnya, kemajuan teknologi AI membuat video maupun gambar hasil rekayasa tampak semakin realistis. Karena itu, ia mengatakan masyarakat perlu membiasakan diri memverifikasi sumber dan asal-usul suatu konten sebelum mempercayai atau menyebarkannya.

"Kadang-kadang kita tidak bisa membedakan mana video yang autentik dan mana yang palsu karena teknologinya sudah sangat mulus. Karena itu, sekarang sudah ada program untuk mengecek asal-usul suatu konten, apakah itu buatan AI atau bukan. Itu salah satu cara yang harus disosialisasikan kepada publik," kata Nezar dalam Podcast Unpacking Indonesia di Jakarta Selatan, Rabu (22/7).

Ia mengatakan tantangan tersebut muncul di tengah pesatnya pertumbuhan penggunaan internet di Indonesia. Dengan penetrasi internet yang telah mencapai 80,6% dari total 287 juta penduduk dan cakupan jaringan telekomunikasi mencapai 97% wilayah berpenghuni, ruang digital kini menjadi tempat utama masyarakat memperoleh sekaligus menyebarkan informasi.

Nezar menilai, perkembangan AI semakin memperumit upaya membedakan informasi yang benar dan yang telah dimanipulasi. Oleh karena itu, peningkatan literasi digital menjadi salah satu langkah penting agar masyarakat lebih kritis dalam mengonsumsi informasi di internet.

Efek Algoritma Medsos

Selain perkembangan AI, Nezar juga menyoroti peran algoritma media sosial atau medsos yang dinilai turut mempercepat penyebaran informasi berbasis emosi dibandingkan fakta. Algoritma mempelajari preferensi pengguna melalui aktivitas digital, seperti tanda suka maupun durasi saat melihat suatu konten, sehingga pengguna cenderung menerima informasi yang sejalan dengan pandangannya.

Mekanisme tersebut menciptakan fenomena filter bubble dan echo chamber, yaitu kondisi ketika pengguna lebih sering terpapar informasi yang memperkuat keyakinan mereka sendiri dibandingkan perspektif yang berbeda.

"Apa yang kita percakapkan di media sosial sering kali bukan sebuah dialog, melainkan kita meneriakkan dan mendengar gaung teriakan kita sendiri. Itulah yang disebut echo chamber. Kebanyakan yang terjadi adalah orang lebih senang memberikan sentimen daripada fakta," kata Nezar.

Menurutnya, media sosial kini telah berkembang menjadi instrumen pembentuk persepsi publik. Dalam kondisi tersebut, disinformasi dan misinformasi berpotensi memengaruhi cara pandang masyarakat hingga memicu polarisasi sosial.

"Media sosial telah menjadi alat untuk membentuk persepsi. Melalui social engineering, sesuatu yang salah bisa dianggap benar, yang benar bisa dianggap salah, yang putih bisa menjadi hitam, dan yang hitam bisa menjadi putih," ujarnya.

Nezar menambahkan, pemerintah terus memperkuat upaya moderasi konten berdasarkan Undang-undang Informasi dan Transaksi Elektronik (UU ITE). Hal ini dengan tetap menjaga keseimbangan antara perlindungan masyarakat dan kebebasan berekspresi.

"Moderasi konten dilakukan oleh Komdigi berdasarkan mandat dan aturan hukum yang ada. Kita tetap menghargai kebebasan berekspresi selama tidak menjurus kepada fitnah, disinformasi, dan ujaran kebencian," katanya.

Ia juga mengajak masyarakat membangun budaya bermedia digital yang lebih kritis. Menurutnya, kemampuan memverifikasi informasi akan menjadi semakin penting seiring berkembangnya teknologi AI yang membuat konten palsu semakin menyerupai konten asli.