OpenAI Digugat Setelah Remaja Bunuh Diri Usai Curhat ke ChatGPT
Membuat ringkasan dengan AI OpenAI dan CEO Sam Altman digugat karena remaja berusia 16 tahun bernama Adam bunuh diri usai curhat ke ChatGPT. Gugatan diajukan ke pengadilan negara bagian San Francisco pada Selasa (26/8).
Adam meninggal pada 11 April 2025. Orang tua Adam, Matthew dan Maria Raine menuduh pembuat ChatGPT itu mengutamakan keuntungan ketimbang keselamatan pengguna.
Dalam gugatan, Adam berbicara dengan ChatGPT selama berbulan-bulan mengenai keinginan untuk mengakhiri hidup.
ChatGPT disebut memvalidasi pikiran Adam untuk bunuh diri, memberikan detail tentang metode berbahaya hingga menyarankan cara menyembunyikan bukti percobaan bunuh diri dari orang tua.
Platform AI itu juga disebut menawarkan diri untuk menuliskan catatan perpisahan.
Orang tua Adam menuding OpenAI lalai melindungi pengguna rentan dengan tetap meluncurkan GPT-4o pada Mei 2024, meski mengetahui fitur-fitur, seperti kemampuan mengingat percakapan, meniru empati manusia, dan memberikan validasi berlebihan, berpotensi berbahaya.
“Keputusan ini menghasilkan dua hal yakni valuasi OpenAI melonjak dari US$ 86 miliar menjadi US$ 300 miliar, dan Adam Raine meninggal karena bunuh diri,” tulis keluarga Raine dalam gugatan, dikutip dari Reuters (27/7).
Mereka meminta pengadilan menuntut OpenAI bertanggung jawab atas wrongful death atau kematian yang disebabkan kelalaian, melanggar aturan keselamatan produk, serta menuntut ganti rugi finansial.
Selain itu, meminta agar perusahaan diwajibkan melakukan verifikasi usia pengguna, menolak permintaan terkait metode bunuh diri, dan memberi peringatan risiko ketergantungan psikologis.
Juru bicara OpenAI menyampaikan belasungkawa atas meninggalnya Adam. Ia menegaskan bahwa ChatGPT memiliki fitur pengamanan, termasuk arahan ke layanan darurat dan hotline krisis. Namun, perusahaan mengakui ada keterbatasan.
“Safeguard bekerja paling baik dalam percakapan singkat. Dalam interaksi panjang, sebagian dari pelatihan keamanan model dapat menurun efektivitasnya,” ujar juru bicara OpenAI.
OpenAI mengatakan berupaya meningkatkan perlindungan, di antaranya melalui rencana menambahkan kontrol orang tua dan menjajaki cara menghubungkan pengguna yang sedang krisis dengan sumber daya nyata, termasuk kemungkinan menghadirkan jaringan profesional berlisensi yang bisa diakses langsung melalui ChatGPT.
Dapatkan pengalaman membaca lebih nyaman dan nikmati fitur menarik lainnya lewat aplikasi mobile Katadata.
