Banyak Kasus Bunuh Diri, OpenAI Luncurkan Fitur Kontrol Orang Tua di ChatGPT

OpenAI berencana meluncurkan fitur kontrol orang tua dan memperkuat pagar pengaman percakapan di ChatGPT menyusul meningkatnya kasus bunuh diri yang melibatkan penggunaan chatbot tersebut.

Dalam pengumuman pada Selasa (2/9), perusahaan menyatakan akan mulai mengarahkan percakapan sensitif untuk direspons dalam model penalaran seperti GPT-5, serta menghadirkan fitur kontrol orang tua bulan depan.

Kasus terbaru yang mendorong langkah tersebut adalah kematian remaja Adam Raine. Ia menggunakan ChatGPT untuk mendiskusikan rencana bunuh diri. Orang tuanya kini menggugat OpenAI atas tuduhan kematian yang tidak wajar.

Dalam kasus lain yang dilaporkan The Wall Street Journal, seorang pria Norwegia, Stein-Erik Soelberg, diduga menggunakan ChatGPT untuk memvalidasi delusi konspirasi hingga akhirnya membunuh ibunya sebelum mengakhiri hidupnya sendiri.

OpenAI menyatakan sistemnya masih memiliki celah dalam menjaga keamanan percakapan, terutama ketika obrolan berlangsung lama.

“Kami baru-baru ini memperkenalkan router real-time yang dapat memilih antara model obrolan efisien dan model penalaran. Percakapan sensitif, seperti tanda-tanda tekanan akut, akan diarahkan ke GPT-5 atau model o3 yang lebih mampu menalar,” tulis perusahaan dalam blog resminya, dikutip dari Techcrunch, Selasa (2/9).

Mulai bulan depan, orang tua akan dapat menautkan akun mereka dengan akun remaja melalui undangan email. Kontrol ini memungkinkan penerapan aturan perilaku sesuai usia, penonaktifan fitur memori dan riwayat obrolan, hingga pemberitahuan ketika sistem mendeteksi anak berada dalam kondisi kesusahan akut.

OpenAI juga mempertimbangkan fitur tambahan, seperti batas waktu penggunaan, untuk mencegah ketergantungan dan pola pikir berbahaya. Sebelumnya, perusahaan meluncurkan Mode Belajar pada Juli untuk membantu siswa menjaga keterampilan berpikir kritis.

Dalam mengembangkan perlindungan baru, OpenAI bekerja sama dengan Jaringan Dokter Global serta Dewan Ahli tentang Kesejahteraan dan AI, termasuk pakar di bidang kesehatan remaja, gangguan makan, dan penggunaan zat berbahaya.

Perusahaan menyebut kolaborasi ini bertujuan untuk mendefinisikan dan mengukur kesejahteraan, menetapkan prioritas, dan merancang perlindungan masa depan.