Viral Grok AI Dipakai Edit Foto Tak Senonoh, Komdigi Ancam Sanksi jika Melanggar

Viral Grok AI digunakan untuk mengubah foto seseorang, khususnya perempuan, menjadi tidak senonoh dan disebar di media sosial. Kementerian Komunikasi dan Digital atau Komdigi mengancam akan memberikan sanksi kepada platform, jika terbukti melanggar.

Direktur Jenderal Pengawasan Ruang Digital Kementerian Komdigi Alexander Sabar mengatakan, hasil penelusuran awal menunjukkan Grok AI belum memiliki pengaturan yang eksplisit dan memadai untuk mencegah produksi maupun distribusi konten pornografi berbasis foto nyata warga Indonesia. 

“Hal ini berisiko menimbulkan pelanggaran serius terhadap privasi dan hak citra diri warga,” ujar Alexander dalam keterangan pers, Rabu (7/1).

Menurut Alexander, manipulasi digital terhadap foto pribadi bukan sekadar persoalan kesusilaan, melainkan bentuk perampasan kendali individu atas identitas visual. Praktik ini dapat menimbulkan dampak psikologis, sosial, hingga merusak reputasi korban.

Alex tidak memerinci secara spesifik terkait langkah yang dilakukan Komdigi terhadap Grok AI. Katadata.co.id juga beberapa kali mengonfirmasi mengenai hal ini, namun belum ada tanggapan.

Melalui keterangan pers, Alex menyampaikan bahwa Komdigi tengah berkoordinasi dengan para Penyelenggara Sistem Elektronik atau PSE untuk memastikan tersedianya mekanisme perlindungan yang efektif, seperti penguatan sistem moderasi konten, pencegahan pembuatan deepfake asusila, serta penyediaan prosedur penanganan cepat atas laporan pelanggaran privasi dan hak citra diri.

“Setiap PSE wajib memastikan bahwa teknologi yang mereka sediakan tidak menjadi sarana pelanggaran privasi, eksploitasi seksual, maupun merusak martabat seseorang,” kata Alexander.

Alex mengingatkan bahwa peraturan-peraturan Indonesia yang melekat pada seluruh PSE yang beroperasi di Tanah Air dan harus ditaati. Apabila ditemukan ketidakpatuhan atau sikap tidak kooperatif, pemerintah dapat menjatuhkan sanksi administratif hingga pemutusan akses terhadap layanan Grok AI maupun platform X.

Berdasarkan pantauan Katadata.co.id di laman PSE Lingkup Privat Kementerian Komdigi, Grok AI belum terdaftar sebagai PSE. Sedangkan Twitter, yang kini bernama X, sudah terdaftar.

Alex mengatakan bahwa penyedia layanan AI maupun pengguna yang terbukti memproduksi dan/atau menyebarkan konten pornografi atau manipulasi citra pribadi tanpa hak dapat dikenakan sanksi administratif dan/atau pidana. UU Nomor 1 Tahun 2023 tentang Kitab Undang-Undang Hukum Pidana (KUHP) pada tanggal 2 Januari 2026 misalnya, memuat aturan konten pornografi.

Pasal 172 mendefinisikan pornografi sebagai media yang memuat kecabulan atau eksploitasi seksual yang melanggar norma kesusilaan. Sementara itu, Pasal 407 mengatur ancaman pidana penjara paling singkat enam bulan dan paling lama 10 tahun atau pidana denda sesuai ketentuan yang berlaku.

Alexander menambahkan, masyarakat yang menjadi korban manipulasi foto, deepfake asusila, atau pelanggaran hak citra diri dapat menempuh upaya hukum melalui mekanisme yang tersedia, termasuk melapor kepada aparat penegak hukum dan mengajukan pengaduan ke Kementerian Komdigi.

"Kami mengimbau seluruh pihak untuk menggunakan teknologi akal imitasi secara bertanggung jawab. Ruang digital bukan ruang tanpa hukum. Ada privasi dan hak atas citra diri setiap warga negara yang harus dihormati dan dilindungi," kata Alexander.