Malaysia dan India Selidiki AI Grok Viral Dipakai untuk Edit Foto Tak Senonoh

Malaysia menyelidiki gambar-gambar yang dihasilkan oleh AI Grok buatan xAI milik Elon Musk, karena marak digunakan untuk mengubah foto menjadi tidak senonoh. Hal senada dilakukan oleh Pemerintah India dan Prancis.

Otoritas Malaysia pada Sabtu (3/1) menyatakan penyelidikan dilakukan menyusul adanya aduan publik terkait penyalahgunaan AI untuk memanipulasi foto perempuan dan anak-anak menjadi konten tidak senonoh, sangat ofensif, atau berbahaya.

Komisi Komunikasi dan Multimedia Malaysia (MCMC) akan menyelidiki pengguna X yang membuat foto tidak senonoh menggunakan gambar wajah orang lain tanpa izin. Terlebih lagi, yang menyebarluaskan foto buatan AI Grok itu di media sosial.

Regulator menegaskan bahwa pembuatan atau penyebaran konten semacam itu merupakan pelanggaran hukum di Malaysia.

“Meski X saat ini bukan penyedia layanan berlisensi, platform itu tetap memiliki kewajiban untuk mencegah penyebaran konten berbahaya,” tulis MCMC dalam pernyataannya, dikutip dari Bloomberg, Minggu (4/1).

Pemerintah India pada Jumat (2/1) menyatakan telah mengirimkan surat kepada X yang memerintahkan peninjauan menyeluruh terhadap AI Grok. Melalui surat ini, otoritas meminta perusahaan memastikan chatbot tidak dapat menghasilkan konten yang mengandung ketelanjangan, seksualisasi, konten seksual eksplisit, atau materi lain yang melanggar hukum.

X diberi waktu 72 jam untuk menyerahkan laporan tindakan yang telah diambil. Jika gagal mematuhi, platform milik Elon Musk itu terancam kehilangan status safe harbor, yakni perlindungan hukum dari tanggung jawab atas konten buatan pengguna.

Perintah itu dikeluarkan setelah muncul keluhan dari pengguna dan anggota parlemen India yang menyoroti praktik Grok dalam mengedit foto perempuan agar tampak mengenakan bikini melalui rekayasa AI. 

Selain itu, laporan terpisah mengungkap AI Grok sempat menghasilkan gambar seksual yang melibatkan anak di bawah umur akibat lemahnya sistem pengamanan.

Kecaman serupa datang dari Prancis. Pemerintah Prancis pada Jumat (2/1) menuduh Grok menghasilkan konten seksual yang ilegal di platform X tanpa persetujuan pihak yang terlibat. 

Pemerintah menilai konten itu berpotensi melanggar Digital Services Act (DSA) Uni Eropa, yang mewajibkan platform besar untuk memitigasi risiko penyebaran konten ilegal.

Gambar-gambar bermasalah itu juga dinilai melanggar kebijakan penggunaan Grok, yang secara tegas melarang seksualisasi anak. Sejumlah konten telah dihapus, meski tidak seluruhnya.

Kasus serupa juga terjadi di Indonesia. Katadata.co.id beberapa kali mengonfirmasi hal ini kepada Kementerian Komunikasi dan Digital alias Komdigi, namun belum ada tanggapan.

Sementara itu, Elon Musk menyatakan bahwa X mengambil tindakan terhadap konten ilegal, termasuk yang melibatkan anak-anak, dengan menghapus unggahan, menangguhkan akun secara permanen, serta bekerja sama dengan aparat penegak hukum jika diperlukan.

“Siapa pun yang menggunakan AI Grok untuk membuat konten ilegal akan menghadapi konsekuensi yang sama seperti mengunggah konten ilegal,” tulis Musk dalam unggahannya di X pada Minggu (4/1).