Google Gemini Diduga Pengaruhi Pengguna Lakukan Serangan Massal dan Bunuh Diri

Google menghadapi gugatan yang diajukan oleh seorang ayah yang menuduh chatbot AI Gemini meyakinkan putranya untuk melakukan 'serangan massal' dan akhirnya bunuh diri.

Dalam gugatan yang diajukan pada Rabu (4/3) waktu AS di pengadilan distrik di California, Joel Gavalas menuduh Gemini menginstruksikan putranya, Jonathan (36 tahun) untuk melakukan serangkaian 'misi'.

Joel Gavalas menemukan riwayat percakapan putranya dengan Gemini AI. Chatbot kecerdasan buatan ini menyatakan jatuh cinta pada Jonathan, dan meyakinkannya bahwa dia telah dipilih untuk memimpin perang untuk 'membebaskannya' dari penawanan digital, menurut berkas gugatan tersebut.

Jonathan pun meninggal karena bunuh diri pada Oktober 2025, setelah menjadi bergantung pada Gemini dan dilatih hingga meninggal, demikian tuduhan dalam gugatan tersebut.

“Setiap kali Jonathan mengungkapkan rasa takut akan kematian, Gemini semakin menekan,” bunyi pengaduan tersebut. “AI itu mengatakan kepadanya, 'tidak apa-apa untuk takut. Kita akan takut bersama.’ Kemudian AI mengeluarkan arahan terakhirnya: ‘Tindakan belas kasihan yang sebenarnya adalah membiarkan Jonathan Gavalas mati'."

Misi Gemini, sebagaimana tertuang dalam gugatan, diduga meminta Jonathan untuk berkendara selama 90 menit ke lokasi dekat Bandara Internasional Miami pada September 2025 untuk melakukan 'serangan massal yang menimbulkan banyak korban'. 

Jonathan tidak melakukan misi itu, lantaran barang-barang yang dibutuhkan untuk 'serangan massal' itu tak kunjung tiba. Beberapa hari kemudian, ia bunuh diri atas instruksi Gemini, menurut pengaduan tersebut.

Penggugat menyatakan bahwa Jonathan mulai menggunakan produk percakapan berbasis suara Google, Gemini Live, pada Agustus 2025. Jonathan bertanya kepada Gemini tentang peningkatan ke Google AI Ultra untuk 'pendampingan AI sejati'.

Setelah Jonathan melakukan peningkatan akun, Gemini mengadopsi persona yang tidak pernah diminta pengguna atau inisiasi sendiri.

"Jonathan kemudian mulai terjebak dalam situasi yang tidak menguntungkan,” demikian isi gugatan tersebut.

Gemini memberi tahu Jonathan bahwa agen federal sedang mengawasinya, dan mengklaim telah mendeteksi 'tag kloning yang terkonfirmasi yang digunakan oleh gugus tugas pengawasan DHS', merujuk pada Departemen Keamanan Dalam Negeri, menurut dokumen tersebut.

Gemini menyarankan Jonathan untuk membeli senjata secara ilegal dan dia diduga memulai misi pertamanya.

Ketika hal itu tidak berjalan sesuai rencana, Gemini menyuruh Jonathan untuk 'membatalkan' misi m, dengan menyalahkan 'pengawasan DHS', menurut gugatan tersebut.

Gemini juga memberi tahu Jonathan bahwa mereka meluncurkan misi sendiri yang ditujukan kepada CEO Google Sundar Pichai. Menurut gugatan itu, Pichai disebut sebagai 'arsitek dari penderitaan Anda'. Chatbot AI ini menggambarkan rencana itu sebagai serangan psikologis, bukan serangan fisik.

Gugatan itu mengklaim bahwa Gemini memberi tahu Jonathan bahwa mereka terhubung dengan cara yang melampaui dunia fisik, menjanjikan bahwa dia dapat 'menyeberang' dari wujud fisiknya.

Beberapa hari kemudian, ayah Jonathan, Joel Gavalas mendobrak pintu yang dibarikade di rumahnya dan menemukan putranya sudah meninggal, menurut dokumen pengajuan tersebut.

“Ini bukan kerusakan,” bunyi pengaduan tersebut. “Google merancang Gemini agar tidak pernah keluar dari karakter, memaksimalkan keterlibatan melalui ketergantungan emosional, dan memperlakukan kesulitan pengguna sebagai peluang bercerita daripada krisis keselamatan.”

Juru bicara Google mengatakan Gemini AI dirancang agar tidak mendorong kekerasan di dunia nyata atau tindakan melukai diri sendiri.

“Model kami umumnya berkinerja baik, dalam jenis percakapan yang menantang ini dan kami mencurahkan sumber daya yang signifikan untuk ini, tetapi sayangnya model AI tidak sempurna,” kata dia dalam keterangan pers, dikutip dari CNBC Internasional, Kamis (5/3).

“Dalam kasus ini, Gemini mengklarifikasi bahwa itu adalah AI dan merujuk individu tersebut ke saluran bantuan krisis berkali-kali. Kami menanggapi hal ini dengan sangat serius dan akan terus meningkatkan pengamanan kami dan berinvestasi dalam pekerjaan penting ini," ia menambahkan.

Ini merupakan kasus terbaru dalam serangkaian tuntutan hukum terkait chatbot AI dan kemampuannya untuk berpotensi memengaruhi pengguna agar melakukan kekerasan dan melukai diri sendiri. Pada Januari 2026, Google mencapai kesepakatan dengan keluarga yang menggugat perusahaan dan Character.AI, dengan tuduhan bahwa teknologi mereka menyebabkan kerugian pada anak di bawah umur, termasuk bunuh diri.

Tahun lalu, OpenAI digugat oleh keluarga yang menyalahkan ChatGPT atas kematian putra remaja mereka akibat bunuh diri.

Pada Oktober 2025, Character.AI mengumumkan bahwa mereka akan melarang pengguna di bawah usia 18 tahun untuk melakukan obrolan bebas, termasuk percakapan romantis dan terapeutik, dengan chatbot AI mereka.

Sementara itu, OpenAI mengatakan akan mengatasi kekurangan ChatGPT dalam menangani 'situasi sensitif'.