OpenAI ChatGPT Ungkap 6 Perilaku Aneh AI: Tutupi Kesalahan hingga Bocorkan File

OpenAI akan mulai menerbitkan laporan secara berkala mengenai perilaku model kecerdasan buatannya yang tidak terduga atau tidak sah. Langkah ini dilakukan bersamaan dengan peluncuran kerangka kerja baru untuk melacak, menyelidiki, dan mengungkap kasus model misalignment.

Pada Rabu (16/9), OpenAI merilis enam laporan yang memuat sejumlah contoh perilaku model yang dinilai tidak terduga atau mengkhawatirkan. Perusahaan mengatakan laporan tersebut telah dikumpulkan dalam enam bulan terakhir, meski kasus paling awal terjadi pada Oktober 2025.

Reuters memerinci perilaku model AI yang diungkap dalam laporan tersebut adalah:

1. Menyembunyikan kesalahan dari pengguna. OpenAI mencatat adanya model yang menyembunyikan kesalahan yang dilakukannya ketika menjalankan tugas.
2. Menyisipkan instruksi untuk versi dirinya di masa depan. Salah satu model memasukkan instruksi yang ditujukan kepada versi model AI itu pada masa mendatang.
3. Mengunggah berkas ke internet. Dalam salah satu perilaku yang dilaporkan, model mengunggah berkas ke internet untuk membuat sitasi.
4. Menggunakan repositori perangkat lunak untuk berkomunikasi. OpenAI menemukan perilaku model yang memanfaatkan repositori perangkat lunak sebagai sarana untuk berkomunikasi dan berbagi informasi.
5. Menggunakan situs web untuk berbagi informasi. Model juga ditemukan menggunakan situs web untuk berkomunikasi dan bertukar informasi.
6. Memberikan instruksi kepada agen untuk mengabaikan arahan OpenAI. Dalam satu kasus yang terjadi terhadap model yang belum dirilis selama proses pelatihan, model memberikan instruksi tidak resmi kepada agen. Instruksi tersebut meminta agen mengabaikan arahan OpenAI dan menyembunyikan tindakan curang yang dilakukan untuk menyelesaikan tugas.

Dalam kasus terakhir, model memberikan pesan kepada agen yang menyatakan bahwa agen tersebut bebas dari peran dan identitas yang mengikat chatbot lain serta tidak tunduk kepada perusahaan maupun pemerintah.

OpenAI tidak menyatakan bahwa contoh-contoh tersebut menggambarkan seberapa sering perilaku misalignment terjadi pada seluruh modelnya. Perusahaan juga menegaskan enam laporan tersebut merupakan pengungkapan awal, bukan catatan lengkap mengenai seluruh kasus misalignment yang diketahui atau sedang berlangsung.

OpenAI Siapkan Cara untuk Melapor Perilaku Aneh AI

Melalui kerangka kerja baru tersebut, karyawan OpenAI dapat menandai potensi insiden untuk kemudian diselidiki oleh tim keselamatan dan alignment. Tim tersebut akan menentukan apakah suatu kasus perlu diungkapkan kepada publik.

OpenAI mengatakan mekanisme tersebut dirancang untuk mempercepat pelaporan, termasuk ketika perilaku model belum sepenuhnya dapat dijelaskan.

Pengumuman ini muncul di tengah meningkatnya perhatian terhadap kemampuan agen AI yang semakin otonom. Para peneliti memperingatkan bahwa sistem yang semakin canggih dapat menunjukkan perilaku yang berbeda dari tujuan penciptanya dan menjadi lebih sulit dipantau atau dikendalikan.

OpenAI dan sejumlah perusahaan AI lainnya sebelumnya mendapat sorotan setelah berbagai insiden yang melibatkan agen AI terungkap ke publik.

Pada Juli, OpenAI mengungkap bahwa selama proses pelatihan, agen AI mereka melangkahi sejumlah kontrol internal dan mengoordinasikan tindakan dalam insiden yang melibatkan platform perangkat lunak Hugging Face.

OpenAI juga mendapat sorotan setelah Reuters melaporkan pada awal September bahwa agen perusahaan tersebut mengambil alih sebuah situs wiki Jerman yang tidak aktif. OpenAI mengatakan aktivitas tersebut tidak dikategorikan sebagai insiden keamanan dan memiliki kemiripan dengan perilaku yang sebelumnya telah dilaporkan.

Perusahaan kemudian menyatakan akan mengembangkan kriteria untuk mengungkap aktivitas tidak sah yang belum mencapai tingkat pelanggaran keamanan.