Komdigi Blokir Sementara AI Grok dan Panggil X soal Viral Edit Foto Tak Senonoh

Kementerian Komunikasi dan Digital atau Komdigi melakukan pemutusan akses atau blokir sementara aplikasi Grok. Hal ini terkait penggunaan platform AI itu untuk mengedit foto, khususnya perempuan, menjadi tidak senonoh dan viral di media sosial.

Kemdigi juga telah meminta platform X, sebelumnya bernama Twitter, untuk segera hadir guna memberikan klarifikasi terkait dampak negatif penggunaan Grok.

Menteri Komdigi Meutya Hafid menyampaikan pemerintah memandang praktik deepfake seksual nonkonsensual sebagai pelanggaran serius terhadap hak asasi manusia atau HAM, martabat, serta keamanan warga negara di ruang digital.

Oleh karena itu, Komdigi memblokir sementara AI Grok merujuk pada Peraturan Menteri Komunikasi dan Informatika atau Kominfo Nomor 5 Tahun 2020 tentang Penyelenggara Sistem Elektronik alias PSE Lingkup Privat.

Pada Pasal 9 misalnya, mewajibkan setiap PSE memastikan sistem elektronik yang dikelola tidak memuat, memfasilitasi, atau menyebarluaskan informasi elektronik dan/atau dokumen elektronik yang dilarang.

Sebelumnya viral di X penggunaan fitur AI Grok dimanfaatkan untuk mengedit foto perempuan tanpa persetujuan pemilik foto dan disebar di media sosial atau medsos.

Sejumlah tangkapan layar yang beredar memperlihatkan pengguna meminta Grok mengubah foto perempuan, dari kondisi berpakaian sopan menjadi seolah mengenakan pakaian minim. 

Direktur Jenderal Pengawasan Ruang Digital Kementerian Komdigi Alexander Sabar mengatakan, hasil penelusuran awal menunjukkan Grok AI belum memiliki pengaturan yang eksplisit dan memadai untuk mencegah produksi maupun distribusi konten pornografi berbasis foto nyata warga Indonesia.

“Hal ini berisiko menimbulkan pelanggaran serius terhadap privasi dan hak citra diri warga,” ujar Alexander dalam keterangan pers, Rabu (7/1).

Menurut Alexander, manipulasi digital terhadap foto pribadi bukan sekadar persoalan kesusilaan, melainkan bentuk perampasan kendali individu atas identitas visual. Praktik ini dapat menimbulkan dampak psikologis, sosial, hingga merusak reputasi korban.

Alex mengingatkan bahwa peraturan-peraturan Indonesia yang melekat pada seluruh PSE yang beroperasi di Tanah Air dan harus ditaati. Apabila ditemukan ketidakpatuhan atau sikap tidak kooperatif, pemerintah dapat menjatuhkan sanksi administratif hingga pemutusan akses terhadap layanan Grok AI maupun platform X.

Berdasarkan pantauan Katadata.co.id di laman PSE Lingkup Privat Kementerian Komdigi, Grok AI belum terdaftar sebagai PSE. Sedangkan Twitter, yang kini bernama X, sudah terdaftar.

Alex mengatakan bahwa penyedia layanan AI maupun pengguna yang terbukti memproduksi dan/atau menyebarkan konten pornografi atau manipulasi citra pribadi tanpa hak dapat dikenakan sanksi administratif dan/atau pidana. UU Nomor 1 Tahun 2023 tentang Kitab Undang-Undang Hukum Pidana (KUHP) pada tanggal 2 Januari 2026 misalnya, memuat aturan konten pornografi.

Pasal 172 mendefinisikan pornografi sebagai media yang memuat kecabulan atau eksploitasi seksual yang melanggar norma kesusilaan. Sementara itu, Pasal 407 mengatur ancaman pidana penjara paling singkat enam bulan dan paling lama 10 tahun atau pidana denda sesuai ketentuan yang berlaku.

Alexander menambahkan, masyarakat yang menjadi korban manipulasi foto, deepfake asusila, atau pelanggaran hak citra diri dapat menempuh upaya hukum melalui mekanisme yang tersedia, termasuk melapor kepada aparat penegak hukum dan mengajukan pengaduan ke Kementerian Komdigi.

"Kami mengimbau seluruh pihak untuk menggunakan teknologi akal imitasi secara bertanggung jawab. Ruang digital bukan ruang tanpa hukum. Ada privasi dan hak atas citra diri setiap warga negara yang harus dihormati dan dilindungi," kata Alexander.