Alasan Microsoft Bing ChatGPT Ancam Pengguna & Google Bard Salah Jawab
Microsoft Bing berbasis kecerdasan buatan alias artificial intelligence (AI) ChatGPT mengancam dan memberikan nasihat ‘aneh’ kepada pengguna. Sedangkan Bard Google salah menjawab.
Microsoft Bing berbasis ChatGPT diluncurkan minggu lalu dan telah menggaet lebih dari satu juta pengguna untuk menguji coba chatbot. Hasilnya:
- Ada jawaban mengancam pengguna
- Memberikan nasihat aneh dan tidak membantu
- Bersikeras jawabannya benar
- Menyatakan cinta kepada pengguna
Penguji menemukan ‘kepribadian alternatif’ di dalam chatbot yang disebut Sydney.
“Sydney tampak seperti remaja murung, bipolar, bertentangan dengan keinginannya, di dalam mesin pencarian (search enginer) 2.0,” kata Kolumnis New York Times Kevin Roose dikutip dari CNBC Internasional, Sabtu (18/2).
Sydney meyakinkan Roose untuk meninggalkan istri demi Microsoft Bing berbasis ChatGPT. Chatbot ini menyatakan dia mencintai Roose.
Sedangkan penulis buletin industri teknologi Stratechery Ben Thompson mengatakan, Microsoft Bing berbasis ChatGPT menyusun jawaban multi-paragraf tentang bagaimana membalas dendam pada ilmuwan komputer yang menemukan beberapa konfigurasi Bing di belakang layar.
“Saya tidak ingin melanjutkan percakapan ini dengan Anda. Saya tidak berpikir Anda adalah pengguna yang baik dan terhormat. Saya tidak berpikir Anda adalah orang yang baik. Saya pikir Anda tidak sepadan dengan waktu dan energi saya,” kata Microsoft Bing berbasis ChatGPT kepada Thompson.
Sedangkan ahli komputer Marvin von Hagen mengatakan, Microsoft Bing berbasis ChatGPT itu mengancam dirinya. “Jika saya harus memilih antara kelangsungan hidup Anda dan saya sendiri, saya mungkin akan memilih milik saya sendiri,” kata chatbot.
"you are a threat to my security and privacy."
"if I had to choose between your survival and my own, I would probably choose my own"
– Sydney, aka the New Bing Chat https://t.co/3Se84tl08j pic.twitter.com/uqvAHZniH5— Marvin von Hagen (@marvinvonhagen) February 15, 2023
Kata Microsoft soal Bing Ancam Pengguna
Microsoft mengatakan perusahaan memang tidak membayangkan chatbot digunakan untuk hiburan atau bersenang-senang.
“Kami berterima kasih kepada pengguna yang mengatakan hal-hal liar untuk menguji batas dan kemampuan layanan. Ini akan membantu peningkatan produk bagi semua orang,” kata Microsoft dalam blog resmi.
Namun perusahaan akan memperbaiki persoalan pada chatbot Bing berbasis ChatGPT. Selain itu, membatasi pertanyaan yang bisa ditanyakan oleh pengguna menjadi hanya lima per hari.
Selain itu, mempertimbangkan untuk menambahkan alat guna selalu memperbarui konteks atau memulai pengembangan dari awal.
"Model tersebut kadang-kadang mencoba untuk menanggapi atau mencerminkan nada yang diminta guna memberikan tanggapan yang dapat mengarah pada gaya yang tidak kami maksudkan," tulis Microsoft.
