Kementerian Komunikasi dan Digital atau Komdigi hingga saat ini masih memblokir sementara aplikasi Grok AI. Direktur Jenderal Pengawasan Ruang Digital Kementerian Komdigi Alexander Sabar mengingatkan bisa saja Grok yang bisa diakses langsung melalui platform X Twitter milik Elon Musk itu diblokir permanen.
“Kalau mereka tidak mematuhi aturan kita, kemungkinan pemblokiran permanen itu bisa saja,” kata Alexander saat ditemui di Jakarta, Selasa (27/1).
Namun, ia menyatakan saat ini perwakilan dari Grok sudah bertemu dengan Kementerian Komdigi. Menurut Alexander, Grok berjanji akan mematuhi aturan yang ada di Indonesia.
“Dari mereka sudah datang menyatakan mereka akan mematuhi terhadap aturan yang ada di Indonesia dan pelaksanaannya kalau kita lihat sekarang juga sudah seperti itu. Tapi memang untuk sementara, mereka melakukan geoblocking khusus untuk Indonesia,” ujarnya.
Kementerian Komdigi sebelumnya melakukan pemutusan akses atau blokir sementara aplikasi Grok. Hal ini terkait penggunaan platform AI itu untuk mengedit foto, khususnya perempuan, menjadi tidak senonoh dan viral di media sosial.
Instansi juga telah meminta platform X, sebelumnya bernama Twitter, untuk segera hadir guna memberikan klarifikasi terkait dampak negatif penggunaan Grok.
“Kami menunggu kepastian kepatuhan dari Grok untuk disampaikan kepada pemerintah,” ujar Menteri Komdigi Meutya Hafid.
Pelanggaran Serius HAM
Meutya menyampaikan pemerintah memandang praktik deepfake seksual nonkonsensual sebagai pelanggaran serius terhadap hak asasi manusia atau HAM, martabat, serta keamanan warga negara di ruang digital.
Oleh karena itu, Komdigi memblokir sementara AI Grok merujuk pada Peraturan Menteri Komunikasi dan Informatika atau Kominfo Nomor 5 Tahun 2020 tentang Penyelenggara Sistem Elektronik alias PSE Lingkup Privat.
Pada Pasal 9 misalnya, mewajibkan setiap PSE memastikan sistem elektronik yang dikelola tidak memuat, memfasilitasi, atau menyebarluaskan informasi elektronik dan/atau dokumen elektronik yang dilarang.
Sebelumnya, viral di X penggunaan fitur AI Grok dimanfaatkan untuk mengedit foto perempuan tanpa persetujuan pemilik foto dan disebar di media sosial atau medsos. Sejumlah tangkapan layar alias screenshot yang beredar memperlihatkan pengguna meminta Grok mengubah foto perempuan, dari kondisi berpakaian sopan menjadi seolah mengenakan pakaian minim.
Sejak akhir Desember 2025, pengguna di platform media sosial membanjiri akun X dengan permintaan untuk mengubah foto asli perempuan dan anak-anak untuk menghilangkan pakaian mereka, mengenakan bikini, dan memposisikan mereka dalam posisi seksual, menggunakan Grok. Hal itu memicu protes global dari para korban dan regulator.
Hanya dalam sembilan hari, Grok mengunggah lebih dari 4,4 juta gambar. Tinjauan oleh The New York Times memperkirakan secara konservatif bahwa setidaknya 41% dari unggahan ini atau 1,8 juta, kemungkinan besar berisi gambar yang mengandung unsur seksual pada perempuan.
Dapatkan pengalaman membaca lebih nyaman dan nikmati fitur menarik lainnya lewat aplikasi mobile Katadata.
