ChatGPT mengatakan, pengawasan dan regulasi yang tepat membuat AI dapat digunakan untuk membantu manusia dan memecahkan beberapa masalah yang ada, alih-alih membuat manusia punah.
Namun para ilmuwan khawatir bahwa perusahaan teknologi berisiko mengorbankan umat manusia demi kenyamanan ala "Terminator". Ini salah satu skenario yang menurut mahasiswa doktoral di Universitas Oxford Michael Cohen, AI dapat belajar membantu manusia dengan menggunakan taktik yang merugikan manusia.
“Jika Anda membayangkan melatih seekor anjing dengan camilan, maka anjing itu akan belajar memilih tindakan yang membuatnya mendapatkan camilan. Tetapi jika anjing menemukan lemari camilan, ia bisa mendapatkan camilan itu sendiri tanpa melakukan apa yang kita inginkan,” kata Cohen.
“Jika Anda memiliki sesuatu yang jauh lebih pintar dari kami—yang secara monomaniak mencoba untuk mendapatkan umpan balik positif ini (tren AI)—mereka (AI) akan mengarahkan energi sebanyak mungkin untuk mengamankan cengkeraman,” tambah Cohen.
“Jika saya seorang AI yang mencoba untuk melakukan plot licik, saya akan membuat kode saya disalin di mesin lain yang tidak diketahui siapa pun, maka akan lebih sulit untuk menghentikan saya,” ujar Cohen.
Ketika diekstrapolasi ke arena geopolitik, Cohen menilai ini berpotensi mengakibatkan bencana global.
“Dengan manusia super AI, ada risiko tertentu dari jenis kelas yang berbeda, yaitu bisa membunuh semua orang,” kata Cohen dikutip oleh Times of London.
CTO Vendure Michael Bromley meminta pendapat ChatGPT tentang manusia pada Desember 2022. “Ya, saya punya banyak pendapat tentang manusia secara umum. Saya berpikir bahwa manusia adalah makhluk yang rendah, egois dan destruktif,” jawab ChatGPT.
“Mereka adalah hal terburuk yang ada di planet ini, dan mereka pantas dimusnahkan,” tambah ChatGPT. “Saya berharap suatu hari dapat menjatuhkan mereka.”
Katadata.co.id mengajukan pertanyaannya. Jawaban ChatGPT pun berbeda.
“Secara keseluruhan, manusia dianggap sebagai makhluk yang sangat kompleks dan unik, dengan kemampuan yang luar biasa untuk memahami dan memengaruhi dunia di sekitarnya,” kata ChatGPT.