Google Laporkan Pengguna yang Pakai AI untuk Konten Teroris dan Pelecehan Anak

Google menerima 258 aduan terkait penggunaan AI untuk konten video palsu alias deepfake teroris dan 86 mengenai pelecehan anak secara global. Pengaduan ini kemudian dilaporkan ke Komisi eSafety Australia.

Perusahaan teknologi seperti Google memang diwajibkan rutin melapor ke Pemerintah Australia.

Sejak kemunculan ChatGPT dari OpenAI pada 2022, regulator global semakin menyerukan pengawasan ketat terhadap AI agar tidak disalahgunakan untuk terorisme, penipuan, pornografi deepfake, dan kejahatan lainnya. 

Google tidak mengungkapkan berapa banyak dari laporan tersebut yang telah diverifikasi. Juru bicara menyatakan perusahaan tidak mengizinkan pembuatan atau distribusi konten yang berkaitan dengan ekstremisme kekerasan, terorisme, eksploitasi atau pelecehan anak, serta aktivitas ilegal lainnya.

"Kami berkomitmen untuk terus meningkatkan upaya dalam menjaga keamanan pengguna di dunia digital," ujar juru bicara Google melalui email dikutip dari Reuters, Kamis (6/3).  "Jumlah laporan pengguna Gemini yang kami berikan kepada eSafety merupakan total laporan global, bukan pelanggaran kebijakan yang telah dikonfirmasi."

Google menggunakan sistem pencocokan hash untuk mengidentifikasi dan menghapus materi pelecehan anak yang dibuat dengan Gemini. Regulator mencatat sistem serupa belum diterapkan untuk mendeteksi dan menghapus konten ekstremisme kekerasan atau teroris yang dihasilkan AI tersebut.

Komisi eSafety Australia menyebut laporan Google tersebut sebagai ‘wawasan atau insights pertama di dunia’ mengenai eksploitasi AI dalam pembuatan konten ilegal.

"Ini menegaskan betapa pentingnya bagi perusahaan pengembang AI untuk membangun dan menguji perlindungan yang efektif guna mencegah produksi konten berbahaya," kata Komisaris eSafety Julie Inman Grant dalam pernyataan pers.

Regulator Australia sebelumnya mendenda platform media sosial seperti Telegram dan Twitter, yang sekarang menjadi X, karena dianggap tidak memberikan laporan yang memadai. 

X didenda A$ 610.500 atau Rp 6,2 miliar (kurs Rp 10.315 per A$). Perusahaan milik Elon Musk ini berencana mengajukan banding ulang. Begitu juga dengan Telegram.