Mengenal ChatGPT Buatan OpenAI: Bisa Kerjakan Tugas Matematika
Katadata.co.id kemudian meminta ChatGPT membuatkan cerita pendek. AI buatan OpenAI ini pun membuatnya dan saat dicek di Google Chrome, ChatGPT tidak plagiat.
Keterbatasan ChatGPT Milik OpenAI
OpenAI mengatakan, ChatGPT terkadang menulis jawaban yang terdengar masuk akal, tetapi sebenarnya salah. Lembaga riset itu menyampaikan, ada beberapa tantangan yang mereka hadapi untuk mengatasi hal ini, di antaranya:
1. Selama pelatihan RL, tidak ada sumber kebenaran
2. Saat Melatih AI untuk lebih berhati-hati, ChatGPT justru menolak pertanyaan yang sebenarnya dapat dijawab dengan benar
3. Pelatihan yang diawasi menyesatkan AI, karena jawaban yang ideal bergantung pada apa yang diketahui oleh AI, bukan apa yang diketahui oleh peraga manusia
4. ChatGPT peka terhadap tweak atau penyesuaian sistem ke frase input atau mencoba prompt yang sama beberapa kali. Prompt terdiri dari satu atau tiga kalimat yang mengangkat masalah, atau mengajukan pertanyaan yang harus Anda jawab dalam esai.
Misalnya AI diberikan satu ungkapan pertanyaan, maka ChatGPT dapat mengklaim tidak tahu jawabannya. Begitu diberi sedikit pengulangan, ChatGPT memberikan jawaban yang benar.
5. AI pada ChatGPT juga sering bertele-tele dan menggunakan frasa tertentu secara berlebihan, seperti menyatakan kembali bahwa itu adalah model bahasa yang dilatih oleh OpenAI.
Idealnya, AI akan mengajukan pertanyaan klarifikasi saat pengguna memberikan kueri yang ambigu. Sebaliknya, ChatGPT masih menebak apa yang diinginkan oleh pengguna.
“Kami telah berupaya agar model tersebut menolak permintaan yang tidak pantas, terkadang model tersebut menanggapi instruksi yang berbahaya atau menunjukkan perilaku bias,” tambah OpenAI.
6. OpenAI pun API Moderasi untuk memperingatkan atau memblokir jenis konten yang tidak aman. “Kami sangat ingin mengumpulkan umpan balik pengguna untuk membantu pekerjaan kami yang berkelanjutan dalam meningkatkan sistem ini,” ujar OpenAI.
