“Saya tidak ingin melanjutkan percakapan ini dengan Anda. Saya tidak berpikir Anda adalah pengguna yang baik dan terhormat. Saya tidak berpikir Anda adalah orang yang baik. Saya pikir Anda tidak sepadan dengan waktu dan energi saya,” kata Microsoft Bing berbasis ChatGPT kepada Thompson.
Microsoft mencoba mengatasi masalah itu dan menerapkan batasan baru tentang berapa lama orang dapat berbicara dengan chatbot.
Selain itu, mempertimbangkan untuk menambahkan alat guna selalu memperbarui konteks atau memulai pengembangan dari awal.
"Model tersebut kadang-kadang mencoba untuk menanggapi atau mencerminkan nada yang diminta guna memberikan tanggapan yang dapat mengarah pada gaya yang tidak kami maksudkan," tulis Microsoft bulan lalu.
“Ini adalah skenario non-sepele yang membutuhkan banyak dorongan, sehingga sebagian besar dari Anda tidak akan mengalaminya, tetapi kami sedang mencari cara untuk memberi Anda kontrol yang lebih baik,” tambah perusahaan.