Komdigi Masih Blokir Grok AI, Diduga Tebar 1,8 Juta Foto Perempuan Tak Senonoh

Kementerian Komunikasi dan Digital atau Komdigi masih memblokir Grok. Instansi masih menunggu kepatuhan xAI pengembang Grok dan X Twitter milik Elon Musk.

“Grok hingga saat ini masih dalam proses evaluasi,” kata Menteri Komdigi Meutya Hafid dalam rapat kerja dengan Komisi I Dewan Perwakilan Rakyat (DPR), Senin (26/1).

Kementerian Komdigi melakukan pemutusan akses atau blokir sementara aplikasi Grok. Hal ini terkait penggunaan platform AI itu untuk mengedit foto, khususnya perempuan, menjadi tidak senonoh dan viral di media sosial.

Instansi juga telah meminta platform X, sebelumnya bernama Twitter, untuk segera hadir guna memberikan klarifikasi terkait dampak negatif penggunaan Grok.

“Kami menunggu kepastian kepatuhan dari Grok untuk disampaikan kepada pemerintah,” ujarnya. Kementerian Komdigi juga sebelumnya meminta platform X segera hadir guna memberikan klarifikasi terkait dampak negatif penggunaan Grok.

Meutya menyampaikan pemerintah memandang praktik deepfake seksual nonkonsensual sebagai pelanggaran serius terhadap hak asasi manusia atau HAM, martabat, serta keamanan warga negara di ruang digital.

Oleh karena itu, Komdigi memblokir sementara AI Grok merujuk pada Peraturan Menteri Komunikasi dan Informatika atau Kominfo Nomor 5 Tahun 2020 tentang Penyelenggara Sistem Elektronik alias PSE Lingkup Privat.

Pada Pasal 9 misalnya, mewajibkan setiap PSE memastikan sistem elektronik yang dikelola tidak memuat, memfasilitasi, atau menyebarluaskan informasi elektronik dan/atau dokumen elektronik yang dilarang.

Sebelumnya viral di X penggunaan fitur AI Grok dimanfaatkan untuk mengedit foto perempuan tanpa persetujuan pemilik foto dan disebar di media sosial atau medsos. Sejumlah tangkapan layar alias screenshot yang beredar memperlihatkan pengguna meminta Grok mengubah foto perempuan, dari kondisi berpakaian sopan menjadi seolah mengenakan pakaian minim. 

Sejak akhir Desember 2025, pengguna di platform media sosial membanjiri akun X dengan permintaan untuk mengubah foto asli perempuan dan anak-anak untuk menghilangkan pakaian mereka, mengenakan bikini, dan memposisikan mereka dalam posisi seksual, menggunakan Grok.

Hal itu memicu protes global dari para korban dan regulator.

Hanya dalam sembilan hari, Grok mengunggah lebih dari 4,4 juta gambar. Tinjauan oleh The New York Times memperkirakan secara konservatif bahwa setidaknya 41% dari unggahan ini atau 1,8 juta, kemungkinan besar berisi gambar yang mengandung unsur seksual pada perempuan.

Analisis yang lebih luas oleh Center for Countering Digital Hate, menggunakan model statistik, memperkirakan bahwa 65%, atau lebih dari tiga juta, berisi gambar yang mengandung unsur seksual pada laki-laki, perempuan, maupun anak-anak.

Temuan itu menunjukkan betapa cepatnya Grok menyebarkan gambar-gambar yang mengganggu, yang sebelumnya mendorong Pemerintah di Inggris, India, Malaysia, dan Amerika Serikat untuk memulai penyelidikan apakah gambar-gambar ini melanggar hukum setempat.

“Ini pelecehan terhadap perempuan dan anak perempuan dalam skala industri,” kata Kepala Eksekutif Pusat Penanggulangan Kebencian Digital Imran Ahmed, yang melakukan penelitian tentang kebencian dan disinformasi daring dikutip dari The New York Times, akhir pekan lalu (22/1).

Elon Musk yang memiliki X dan membuat Grok, tidak menanggapi permintaan komentar. Sedangkan Kepala Produk X, Nikita Bier, mengatakan dalam unggahan pada 6 Januari bahwa lonjakan trafik selama empat hari telah menghasilkan tingkat keterlibatan tertinggi di X dalam sejarah perusahaan, meskipun dia tidak menyebutkan gambar-gambar yang dimaksud.