Kata Kominfo Soal Raffi Ahmad hingga Najwa Shihab Jadi Korban AI

Selebritas Raffi Ahmad, Najwa Shihab hingga Melaney Ricardo menjadi korban dari oknum yang menyalahgunakan teknologi kecerdasan buatan atau artificial intelligence (AI). Apa kata Kominfo alias Kementerian Komunikasi dan Informatika?

Direktur Jenderal Informasi dan Komunikasi Publik Kominfo Usman Kansong mengatakan, kasus yang menimpa Raffi Ahmad, Najwa Shihab hingga Melaney Ricardo termasuk pelanggaran etika dalam konteks akuntabilitas penggunaan AI.

“Kalau korban merasa tidak nyaman, bisa melapor,” kata Usman kepada media usai acara Forum Diskusi Media: AI dan Keberlanjutan Media, di Jakarta, Senin (29/1).

“Harus diadukan. Tidak boleh otomatis pemerintah atau polisi yang turun, tapi harus ada pengaduan,” ujar Usman. “Ini subjektivitas. Mungkin ada yang senang (diedit pakai AI).”

Misalnya, korban diedit dengan AI untuk konten pornografi atau judi online, maka korban bisa menuntut pencemaran nama baik.

Kominfo telah menerbitkan Surat Edaran sebagai pedoman pemanfaatan AI. Meski begitu, korban seperti Raffi Ahmad, Najwa Shihab hingga Melaney Ricardo bisa menuntut pelaku dengan Undang-Undang Informasi dan Transaksi Elektronik atau UU ITE dan UU Tindak Pidana Kekerasan Seksual.

Sebelumnya, Wakil Menteri Kominfo Nezar Patria menyampaikan bahwa instansinya sedang menyiapkan UU khusus AI. Selain itu, Badan Riset dan Inovasi Nasional atau BRIN tengah menggodok Peraturan Presiden atau Perpres terkait teknologi ini.

Berdasarkan pemberitaan beberapa media, Melaney Ricardo menyatakan wajahnya digunakan untuk membuat konten berbasi AI, sehingga seolah-olah memberikan testimoni obat penurun berat badan.

Ia sudah meminta akun yang mengunggah video menurunkan konten tersebut. Namun video itu terus muncul di media sosial.

Sementara itu, viral di media sosial Najwa Shihab, Raffi Ahmad, Atta Halilintar, Trans7 dan KompasTV mempromosikan judi online. Ternyata ini merupakan video yang diedit menggunakan teknologi AI.

Berikut percakapan Raffi Ahmad dan Najwa Shihab mempromosikan judi online dalam video yang diedit menggunakan AI tersebut:

“Halo Mas Raffi, dengar-dengar Mas Raffi membuka situs judol (judi online) baru yang bernama situs dufam 365 yang akhir-akhir ini lagi viral jadi perbincangan, karena memberikan kemenangan besar. Bisa dijelaskan kenapa buka situs ini?” ujar Najwa Shihab dalam video itu.

“Tujuan saya mendirikan situs dufam 365 ini adalah untuk saya jadikan ladang berbagi-bagi kepada masyarakat Indonesia, khususnya masyarakat Indonesia yang bermain slot online agar mereka tidak sembarangan bermain di situs abal-abal,” kata Raffi Ahmad di video itu.

“Dengan adanya situs dufan 365 ini masyarakat tidak perlu khawatir lagi jika tidak dibayar, karena situs yang dirikan ini menang berapapun pasti dibayar. Saya berikan jaminan maxwin dengan beberapa kali deposit,” Raffi Ahmad menambahkan.

Berdasarkan penelusuran, video tersebut ternyata serupa dengan acara Mata Najwa berjudul ‘Vaksin Siapa Takut - Raffi Ahmad: Pegal dan Ngantuk Setelah Divaksin’. Dalam keterangan, video ini diunggah pada 13 Januari 2021.

Saat itu, Raffi Ahmad menjadi salah satu orang pertama di Indonesia yang menerima vaksin Covid-19. Raffi bercerita tangannya terasa pegal dan sedikit mengantuk.

Video tersebut kemudian diubah menggunakan AI generatif, sehingga seolah-olah Raffi Ahmad dan Najwa Shihab mempromosikan judi online. Teknologi AI yang mengubah video ini disebut deepfake.

Deepfake adalah gambar atau video yang dihasilkan atau diubah secara sintetis menggunakan AI. Teknologi ini dapat mengubah video yang sudah ada, lalu diganti misalnya dengan wajah politisi. Alhasil seolah-olah politisi ini yang berbicara.