AI dan Bahaya Baru Predator Siber: PP Tunas Jadi Perisai Anak Indonesia

Indah (35 tahun) ragu-ragu saat mengizinkan putrinya yang masih duduk di bangku sekolah dasar atau SD bermain Roblox. Pasalnya, ia mendapati berita tentang kasus laki-laki dewasa menyamar menjadi anak-anak di platform metaverse ini, terlebih lagi AI memungkinkan suara diubah.

“Saya sempat mengetahui berita itu. Sebetulnya antara khawatir dan tidak jika anak bermain Roblox,” kata Indah kepada Katadata.co.id, Senin (6/10).

Ia juga pernah mendapati teman putrinya bermain dengan orang asing di Roblox. “Pemain itu mengajak anak ini ke kamar atau motel (di platform) dan diminta mengganti pakaian,” ujar dia. “Saya bilang jangan mau. Khawatir orang itu sebenarnya bukan anak-anak.”

Indah pun mewanti-wanti anaknya untuk tidak bermain dengan orang asing di platform ini. “Selama dia bermain, saya memantau siapa saja yang diajak berbicara. Sejauh ini masih aman,” ujar dia.

Direktur Reserse Siber Polda Metro Jaya Kombes Roberto Pasaribu pada Februari mengungkapkan, ada modus kejahatan seksual terhadap anak, dengan cara pelaku menyamar sebagai teman sebaya di platform gim online.

“Para pelaku, yang kami sebut predator ini, menyamar sebagai teman sebaya. Setelah calon korban merasa nyaman, komunikasi dipindahkan ke sarana aplikasi lain seperti Telegram dan WhatsApp,” kata Roberto dalam wawancara yang diunggah di kanal YouTube Pusat Pelaporan dan Analisis Transaksi Keuangan atau PPATK pada Februari.

Pelaku kemudian menawarkan calon korban uang, dengan dalih sebagai bonus bermain gim. “Teknik ini dinamakan grooming, yakni menciptakan situasi nyaman terhadap anak-anak, sehingga mereka menuruti instruksi pelaku,” kata dia.

Dalam kasus tersebut, pelaku berusia 20 tahun dan korban 14 tahun. Orang tua korban mengira pelaku itu teman sebaya korban.

“Pelaku bahkan mengimingi-imingi anak-anak untuk melakukan hubungan seksual sebagai orang dewasa. Ada juga yang sesama jenis,” Roberto menambahkan.

Pada Juli 2025, Polda Kaltim melalui Satuan Tim Siber mengamankan pria asal Balikpapan yang diduga menjadi predator anak lintas-negara lewat Roblox. Pelaku berinisial AMZ diringkus karena melakukan pengancaman dan pemerasan seksual atau sextortion terhadap anak perempuan berusia 15 tahun di Swedia.

Pelaku diduga melakukan kejahatan grooming dan sextortion. Modusnya dengan menjalin komunikasi intensif melalui berbagai platform digital, termasuk gim Roblox, untuk membangun kepercayaan sebelum akhirnya melakukan pengancaman dan pemerasan.

Selama Mei - November 2024, Direktorat Tindak Pidana Siber Bareskrim Polri mencatat ada 58 tersangka atas 47 kasus tindak pidana pornografi online

 

 

 

Lihat postingan ini di Instagram

 

 

 

Sebuah kiriman dibagikan oleh Komisi Perlindungan Anak Indonesia (@kpai_official)

Selain itu, pada awal 2025, Polda Metro Jaya mengungkap kasus penjualan konten pornografi anak secara online. Ada 689 konten video dan gambar terkait anak-anak yang diamankan.

Pelaku berinisial RYS (29 tahun) menjual video itu melalui Telegram. Anggota harus membayar Rp 10 ribu sampai Rp 15 ribu untuk tiga bulan.

Kepolisian tidak memerinci apakah video pornografi anak-anak itu buatan AI atau bukan. Namun usia anak-anak yang ada di video sekitar lima sampai 12 tahun.

Sejak foto dan video AI menjadi tren seiring dengan perkembangan platform berbasis kecerdasan buatan, muncul kasus-kasus penyebarluasan konten pornografi palsu. Pada Maret 2025, perempuan asal Gresik, Jawa Timur melaporkan kepada kepolisian bahwa wajahnya dijadikan pemeran video pornografi menggunakan AI.

Ada beragam platform AI yang bisa digunakan untuk mengubah foto menjadi video seperti Sora 2 milik OpenAI dan Google Veo 3. Platform online untuk mengubah suara menggunakan AI juga tersedia banyak di Google Chrome, hanya dengan mengetik kata kunci ‘cara ubah suara pakai AI’.

Dikutip dari laporan Thorn.org bertajuk ‘Sexual Extortion Young People’ yang dirilis Juni, AI menjadi salah satu modus yang marak dipakai pelaku. Rinciannya dapat dilihat pada Bagan di bawah ini:

“Satu dari delapan korban pemerasan seksual melaporkan, bahwa mereka diancam dengan video deepfake yang dibuat oleh seseorang,” demikian dikutip dari laporan itu.

Merujuk pada data National Center for Missing & Exploited Children atau NCMEC, laporan terkait kekerasan seksual terhadap anak yang melibatkan penggunaan teknologi AI generatif juga melonjak 1.325% secara global tahun lalu.

NCMEC menyebutkan setidaknya ada 1,45 juta kasus eksploitasi seksual anak di ruang digital di Indonesia tahun lalu. Indonesia menempati peringkat ketiga dunia terkait eksploitasi seksual anak di ruang digital terbanyak pada 2024.

Sementara itu, PPATK mencatat 24 ribu anak usia 10 sampai 18 tahun terjerat praktik prostitusi, dengan total transaksi Rp 127 miliar.

Kepala PPATK Ivan Yustiavandana menyebutkan anak-anak merupakan kelompok yang paling rentan terhadap praktik eksploitasi seksual. Tidak hanya menimbulkan trauma mendalam, eksploitasi seksual anak juga kerap terkait dengan kejahatan lintas-batas, terorganisasi, dan berorientasi pada keuntungan finansial.

“Oleh karena itu, follow the money adalah kunci untuk memutus mata rantai kejahatan seksual anak,” kata Ivan dalam acara Multi-stakeholder Dialogue on Follow the Money: Unmasking Child Sexual Exploitation through Financial Transactions di Hotel Shangri-La, Jakarta Pusat, Kamis (2/10).

Pada kesempatan yang sama, Wakil Menteri Komunikasi dan Digital alias Komdigi Nezar Patria menilai pelindungan anak di ruang digital merupakan isu publik yang mendesak. Ia juga menyoroti adanya tren baru penggunaan teknologi AI untuk menciptakan konten kekerasan seksual anak.

Laporan Internet Watch Foundation atau IWF mencatat lebih dari 20 ribu konten berbasis AI diunggah ke dark web pada Oktober 2023 dan lebih dari 3.500 konten pada Juli 2024.

“Ini (AI) juga banyak sekali digunakan, dan banyak sekali anak-anak (di Indonesia) yang menjadi korban dan berdampak cukup dalam terhadap kondisi psikologis korban,” ujar Nezar.

Oleh karena itu, Komdigi membangun ekosistem digital yang tidak hanya mendorong kreativitas dan pembelajaran, tetapi juga menjamin setiap anak terlindungi dari ancaman dunia digital.

Pemerintah menerbitkan Peraturan Pemerintah Nomor 17 Tahun 2025 tentang Tata Kelola Penyelenggaraan Sistem Elektronik dalam Perlindungan Anak atau PP Tunas. Selain itu, memfinalisasi Peta Jalan Kecerdasan Artifisial Nasional dengan prinsip tata kelola AI berbasis manusia.

Komdigi juga menerapkan Sistem Kepatuhan Moderasi Konten atau SAMAN, yakni sistem untuk memantau dan memastikan kepatuhan Penyelenggara Sistem Elektronik atau PSE terhadap peraturan moderasi konten.

Poin Utama PP Tunas

PP TUNAS ditetapkan Presiden pada 28 Maret dan mulai berlaku 1 April. Regulasi ini merupakan aturan turunan UU Perlindungan Data Pribadi, dan bagian dari strategi nasional Komdigi untuk membangun ruang digital ramah anak, sehat, dan berkeadilan.

Regulasi itu mewajibkan PSE  menerapkan teknologi dan langkah teknis operasional untuk melindungi anak, sejak tahap pengembangan hingga penyelenggaraan layanan.

PP Tunas menekankan perlunya verifikasi usia, fitur dan konten yang disesuaikan dengan usia pengguna, pembatasan akun, serta fitur kontrol orang tua oleh PSE. Roblox misalnya, menyatakan siap bekerja sama dengan Indonesia Game Rating System atau IGRS dalam meninjau klasifikasi gim dan melakukan penyesuaian bila diperlukan.

IGRS adalah sistem klasifikasi permainan interaktif elektronik atau game yang dibentuk oleh Kementerian Komdigi untuk mengelompokkan gim berdasarkan kategori konten dan kelompok usia pengguna.

"Kami mengapresiasi langkah Roblox yang menegaskan kesediaan mereka untuk menyesuaikan diri dengan regulasi Indonesia. Ini menunjukkan bahwa dialog konstruktif dapat menghasilkan langkah nyata untuk melindungi anak-anak Indonesia sekaligus memperkuat ekosistem industri kreatif digital,” ujar Menteri Komdigi Meutya Hafid dalam keterangan pers, bulan lalu (11/9).

Meta juga memperluas fitur akun remaja yang sebelumnya hanya tersedia di Instagram, kini diterapkan juga di Facebook dan Messenger di Indonesia, bagi pengguna berusia 13 - 17 tahun.

Akun remaja merupakan jenis akun khusus yang otomatis secara privat dan dilengkapi dengan perlindungan tambahan. Remaja tidak bisa dihubungi sembarangan oleh orang asing, konten yang ditampilkan lebih sesuai usia, serta terdapat pengaturan waktu layar.

Orang tua juga diberi kendali tambahan tanpa harus melakukan pengaturan manual sejak awal, karena seluruh fitur keamanan sudah diaktifkan secara default.

Daftar kewajiban PSE yang diatur dalam PP Tunas, di antaranya:

• Menyediakan mekanisme pelindungan anak yang terintegrasi dan berkelanjutan, dengan memastikan pelindungan anak menjadi bagian dari tata kelola dan desain sistem (safety by design)
• Mengimplementasikan fitur persetujuan orang tua/wali yang kuat dan verifikasi persetujuan yang sah dalam hal pemrosesan data anak, terutama untuk layanan berisiko tinggi
• Mengatur pengaturan privasi tertinggi secara default (high privacy setting) bagi pengguna anak, dengan implementasi privacy by default secara teknis dan membatasi pengumpulan data secara otomatis
• Memberikan notifikasi yang jelas kepada anak saat dipantau atau dilacak oleh orang tua/wali
• Memberikan pilihan fungsi yang sesuai dengan kapasitas dan usia
• Saat menyediakan mainan atau perangkat yang terhubung dengan internet untuk memproses data pribadi anak, PSE wajib menentukan secara tegas pihak yang bertanggung jawab atas pemrosesan
• Menyediakan informasi mengenai batasan minimum usia anak, yakni 3 - 5 tahun; 6 – 9 tahun; 10 – 12 tahun; 13 – 15 tahun; 16 – 18 tahun
• Fitur wajib mengikuti batasan minimum usia anak sesuai ketentuan sebagai berikut:

1. 13 tahun: dapat memiliki akun pada produk, layanan, dan fitur yang secara khusus dirancang untuk anak, serta memiliki profil risiko rendah
2. 13 – 16 tahun: dapat memiliki akun pada produk, layanan, dan fitur yang memiliki profil risiko rendah, dengan persetujuan orang tua
3. 16 – 18 tahun: dapat memiliki akun pada produk, layanan, dan fitur, dengan persetujuan orang tua

Sementara itu, hal-hal yang dilarang dilakukan oleh PSE sebagai berikut:

• Menerapkan cara, teknik, atau praktik terselubung dalam pengembangan atau produk, layanan, dan fitur yang mendorong anak mengungkapkan data pribadi lebih dari yang diperlukan dalam mengakses, mengurangi fungsi pelindungan privasi, atau melakukan tindakan yang dapat menimbulkan bahaya bagi kesehatan fisik, kesehatan mental, atau kesejahteraan anak.
• Mengumpulkan informasi geolokasi yang tepat dari anak
• Melakukan pemrofilan anak dengan cara atau metode apapun, seperti untuk tujuan penawaran produk atau layanan atau tujuan lain

Lalu, jenis sanksi yang diterapkan sebagai berikut:

“Platform digital harus menyediakan filter konten, verifikasi usia, dan kontrol orang tua. Anak-anak berhak tumbuh aman, sehat, dan terlindungi,” kata Meutya saat menghadiri pertunjukan budaya di Pura Mangkunegaran Solo Jawa Tengah, akhir pekan lalu (4/10).

Cukupkah PP Tunas Cegah Penyalahgunaan AI dan Predator Anak di Dunia Maya?

Chairman Lembaga Riset Keamanan Siber CISSReC Pratama Persadha menilai fenomena penggunaan AI untuk mengubah wajah dan suara agar menyerupai anak-anak di dunia maya, seperti Roblox, mencerminkan sisi gelap dari evolusi teknologi digital.

Roblox yang pada awalnya diciptakan sebagai dunia virtual kreatif bagi anak dan remaja, kini menjadi ruang sosial besar dengan jutaan pengguna aktif setiap hari. Namun di balik aktivitas bermain, membangun dunia virtual, dan berinteraksi, muncul pola baru penyalahgunaan teknologi seperti AI face-swap dan voice-cloning untuk berpura-pura menjadi anak-anak dengan tujuan manipulatif yang berpotensi membahayakan.

Tren itu menandakan perubahan modus kejahatan daring dari sekadar teks atau gambar ke bentuk interaksi imersif berbasis suara dan visual. Pelaku kini tidak hanya menyamar lewat akun palsu, tetapi juga menggunakan avatar dan suara yang dihasilkan AI agar tampil dan terdengar seperti anak-anak sungguhan.

“Fenomena ini sudah menjadi perhatian serius lembaga perlindungan anak di berbagai negara karena mengaburkan batas antara identitas asli dan rekayasa digital,” kata Pratama kepada Katadata.co.id, Kamis (9/10).

Dari sisi aturan, tanggung jawab pertama terletak pada penyedia platform atau PSE. Roblox misalnya, perlu memperketat sistem verifikasi usia, menambahkan deteksi biometrik berbasis perilaku untuk mengenali pola suara yang dihasilkan AI serta menerapkan liveness detection pada interaksi tertentu terutama, jika pengguna melakukan panggilan suara atau video dalam game.

Mekanisme pelaporan juga perlu dipermudah dengan dukungan forensik digital yang mampu menelusuri jejak penggunaan teknologi deepfake dalam platform mereka.

“Dari sisi regulasi pemerintah, Indonesia telah memiliki PP Tunas. Regulasi ini menjadi dasar hukum penting untuk melindungi anak dari kekerasan dan eksploitasi di ruang digital,” ujar dia.

Namun PP Tunas belum secara eksplisit mengatur penyamaran digital berbasis AI atau synthetic identity abuse, yakni penggunaan teknologi untuk menciptakan identitas palsu yang menyerupai anak-anak.

Kendati demikian, Komdigi tengah menyusun peta jalan alias roadmap AI. Pemerintah juga menyiapkan Peraturan Presiden alias Perpres terkait AI.

Spesialis Keamanan Teknologi Vaksincom Alfons Tanujaya juga menilai PP Tunas lebih dari cukup untuk melindungi anak, meski belum secara eksplisit mengatur tentang AI. “Tetapi begitu ada kasus eksploitasi anak, harus segera ditindak tanpa menunggu aturan yang detail,” katanya kepada Katadata.co.id, Kamis (9/10).