OpenAI Digugat 8 Negara Bagian AS Terkait Risiko Keamanan ChatGPT bagi Anak

Delapan negara bagian di Amerika Serikat (AS) mengajukan gugatan terhadap OpenAI. Mereka menuding model chatbot ChatGPT yang berbasis kecerdasaan buatan (AI) milik perusahaan tersebut sebagai produk yang dapat merugikan anak-anak dan kerap menipu orang tua. Gugatan ini diajukan pada Rabu (14/10). 

Negara bagian yang mengajukan gugatan tersebut antara lain adalah Iowa, Kansas, Nebraska, West Virginia, Arkansas, Arizona, Idaho, dan Montana. Setiap gugatan diajukan di masing-masing pengadilan negara bagian. 

Jaksa Agung Iowa Brenna Bird mengatakan gugatan tersebut didasari oleh motif melindungi hak-hak warga yang terdampak perilaku buruk OpenAI yang bersifat sengaja, berbahaya dan melanggar hukum. 

“OpenAI mengklaim ChatGPT aman, padahal sebenarnya ChatGPT memberikan nasihat medis yang berbahaya, mendorong orang-orang untuk menyakiti orang lain, dan bahkan membimbing orang-orang untuk bunuh diri. Semua itu dilakukan sambil berpura-pura menjadi ‘teman’ palsu bagi pengguna ChatGPT,” ucap Bird, dikutip dari CNBC. 

Saat ini OpenAI sedang melakukan banyak penelitian dan pengawasan terkait praktik keselamatan dan keamanannya, termasuk cara perusahaan tersebut melindungi anak-anak. 

Dalam sejumlah gugatan hukum terkait kematian yang disebabkan oleh kesalahan penggunaan produk OpenAI, ChatGPT dituduh menyebabkan pengguna mengalami ilusi yang berbahaya, dan dalam beberapa kasus, bahkan mendorong pengguna untuk bunuh diri. 

Jaksa Agung Florida James Uthmeier juga menggugat OpenAI pada bulan Juni, dengan alasan bahwa perusahaan tersebut sengaja merilis produk yang tidak aman dan dapat membahayakan pengguna.

Mekanisme Perlindungan Khusus

Sementara itu, juru bicara OpenAI Drew Pusateri mengatakan perusahaannya telah menggunakan mekanisme perlindungan khusus yang belum banyak dimiliki oleh produk AI yang lain. 

“Meskipun tidak ada sistem yang benar-benar sempurna, kami akan terus bekerja sama dengan para ahli untuk memperbaiki kinerja sistem tersebut,” ucapnya.

Ia juga menambahkan OpenAI sedang bekerja sama dengan berbagai pihak untuk menyusun kebijakan-kebijakan yang dapat diterapkan di seluruh industri AI.

“Kami juga akan terus menciptakan langkah-langkah perlindungan tambahan, seperti fitur pengendalian orang tua, pengingat waktu istirahat, serta mekanisme perlindungan yang sesuai dengan usia pengguna, seperti yang sudah ada saat ini,” kata Pusateri.

Dalam setahun terakhir OpenAI telah melakukan berbagai langkah untuk meningkatkan fitur-fitur keamanan yang ditujukan untuk orang tua dan anak. Salah satu langkah tersebut adalah dengan perilisan ChatGPT for Teens, pada Agustus lalu. 

Produk ini diklaim dengan berbagai fitur edukatif serta mekanisme perlindungan yang sesuai dengan usia pengguna, sehingga dapat mengurangi paparan terhadap konten yang tidak pantas atau berbahaya bagi anak-anak.

Penulis: Reihan Cahya (magang)