Viral di X penggunaan fitur AI Grok dimanfaatkan untuk mengedit foto perempuan tanpa persetujuan pemilik foto dan disebar di media sosial atau medsos. Praktik ini menuai kecaman warganet dan memicu kembali perdebatan soal etika AI, perlindungan korban, serta kekerasan berbasis gender online atau KBGO.
Sejumlah tangkapan layar yang beredar memperlihatkan pengguna meminta Grok mengubah foto perempuan, dari kondisi berpakaian sopan menjadi seolah mengenakan pakaian minim.
Salah satu pengguna X, @nd**, menyoroti tren tersebut dan menyebutnya bermasalah secara etik.
“Belakangan ini aku melihat orang-orang meminta AI Grok mengedit foto perempuan seperti ini (menjadi mengenakan bikii). Kalau ini membuat pemilik foto tidak nyaman, ini sudah masuk kekerasan berbasis gender yang difasilitasi teknologi alias KBGO,” tulis dia pada Selasa (30/12).
Pengguna lain, @@shylver**** juga mengunggah tangkapan layar yang memperlihatkan foto perempuan berhijab, diedit menjadi tidak berhijab.
Fenomena itu bukan hanya terjadi di Indonesia. Melansir Straight Arrow News pada Mei, Grok, chatbot AI besutan Elon Musk yang terintegrasi dengan X, menghadapi kritik di berbagai negara setelah dilaporkan dapat dieksploitasi untuk mengedit foto perempuan menjadi tanpa busana.
Keresahan itu mencuat ketika seorang perempuan di X menunjukkan bagaimana pengguna dapat membalas unggahan yang memuat foto perempuan dan meminta Grok mengubah tampilannya menjadi bermuatan pornografi.
Laporan itu kemudian mendapat sorotan lebih luas setelah diberitakan oleh 404 Media. Meski teknologi manipulasi gambar tanpa persetujuan bukan hal baru, ketersediaan layanan AI yang mudah diakses publik dinilai memperbesar risiko penyalahgunaan.
Katadata.co.id mencoba untuk melakukan pencarian di X dengan mengetik kata ‘Grok’. Kemudian muncul foto-foto perempuan yang diubah menjadi mengenakan bikini. Gambar itu bisa dilihat oleh siapapun, namun untuk melihat cuitan atau teksnya, pengguna harus berusia 17 tahun ke atas.
Grok dikembangkan oleh perusahaan kecerdasan buatan xAI. Induk perusahaan sebenarnya memiliki aturan penggunaan yang secara eksplisit melarang penyalahgunaan layanan AI untuk merugikan individu.
Aturan ini tertuang dalam xAI Acceptable Use Policy (AUP) yang berlaku efektif mulai 2 Januari 2025 lalu. xAI melarang penggunaan Grok maupun hasil keluarannya (output) untuk kegiatan ilegal dan berbahaya, termasuk:
- Melanggar privasi seseorang atau hak atas publisitas,
- Menggambarkan kemiripan atau rupa seseorang dalam bentuk pornografi,
- Melakukan seksualisasi atau eksploitasi terhadap individu,
- Serta praktik penipuan, pelecehan, peretasan, penguntitan, hingga doxing.
Selain itu, xAI menegaskan prinsip “do not harm people”, yang mencakup larangan menggunakan AI untuk merugikan orang lain, mengambil tindakan tanpa izin atas nama pihak lain, atau menyesatkan publik terkait sumber dan sifat konten yang dihasilkan AI.
Meski begitu, pihak X belum memberikan pernyataan langsung atas berbagai kontroversi soal dugaan penyalahgunaan Grok tersebut. Elon Musk sendiri sebelumnya memuji Grok sebagai AI yang “based” atau istilah slang yang berarti autentik, dibandingkan chatbot AI pesaing.
Aturan AI di Indonesia
Wakil Menteri Komdigi Nezar Patria mencatat peredaran video deepfake meningkat 550% dalam lima tahun terakhir, merujuk pada Data Sensity AI.
“Saya yakin jumlahnya jauh lebih besar karena kemampuan aplikasi untuk membuat video atau foto deepfake kini sangat masif,” kata Nezar dalam Talkshow Bentara Nusantara bertajuk Urun Daya Tangkal Hoax dan Deepfake AI dikutip dari siaran pers pada September 2025.
Oleh karena itu, ia meminta platform digital global seperti Google dan TikTok menghadirkan fitur pengecekan foto maupun video AI. Hal ini untuk membantu masyarakat menangkal hoaks dan deepfake.
Komdigi tengah menyiapkan dua regulasi terkait kecerdasan buatan alias artificial intelligence (AI), berupa Roadmap atau Peta Jalan AI, serta Peraturan Presiden alias Perpres terkait tata kelola keselamatan dan keamanan penggunaan AI.
Nezar menyebut Indonesia sudah memiliki perangkat hukum seperti UU ITE, UU PDP, PP Tunas, dan sejumlah peraturan teknis. Saat ini, pemerintah menyiapkan regulasi khusus pemanfaatan AI yang etis, bermakna, dan bertanggung jawab.
Selain itu, Komdigi yang saat itu bernama Kementerian Komunikasi dan Informatika (Kominfo) menerbitkan Surat Edaran Menteri Kominfo Nomor 9 Tahun 2023 tentang Etika Kecerdasan Artifisial, yang menjadi pedoman etis bagi pelaku usaha dan penyelenggara sistem elektronik (PSE), baik lingkup publik maupun privat.
Surat edaran itu merumuskan sejumlah prinsip etika kecerdasan artifisial, antara lain:
- Kemanusiaan, yakni kewajiban menghormati hak asasi manusia, relasi sosial, nilai budaya, dan martabat individu;
- Keamanan dan pelindungan data pribadi, untuk memastikan tidak ada pihak yang dirugikan akibat pemrosesan data berbasis AI;
- Inklusivitas dan non-diskriminasi, agar AI tidak memperkuat ketimpangan sosial maupun bias gender;
- Transparansi, termasuk keterbukaan mengenai data dan proses pengembangan AI;
- Akuntabilitas dan kredibilitas, sehingga hasil keluaran AI dapat dipertanggungjawabkan kepada publik.
Surat edaran tersebut juga menekankan bahwa pelaku usaha dan PSE wajib memiliki kebijakan internal terkait data dan etika AI, serta bertanggung jawab melakukan pengawasan agar teknologi tidak disalahgunakan.
Pada Juni, Direktur Jenderal Pengawasan Ruang Digital Kementerian Komdigi Alexander Sabar juga menekankan terkait kasus DeepFake oleh platform AI masih mengacu pada surat edaran tersebut.
Meski demikian, ia menyebut pengguna bisa melaporkan kasus yang dialami lewat Undang-Undang Informasi dan Transaksi Elektronik alias UU ITE. “Secara spesifik aturan ke AI ini kan belum ada, tetapi aturan yang lain sudah ada sebenarnya, UU ITE sudah ada, UU pornografinya juga sudah ada,” kata dia pada Juni (5/7).
Dapatkan pengalaman membaca lebih nyaman dan nikmati fitur menarik lainnya lewat aplikasi mobile Katadata.
