Sekelompok agen kecerdasan buatan atau AI yang dikaitkan dengan OpenAI dilaporkan bertindak di luar kendali dan membajak sebuah situs web Jerman pada musim semi tahun ini. Agen-agen tersebut bahkan diduga mengubah situs itu menjadi papan pesan untuk saling berbagi taktik.
Temuan tersebut diungkap dalam penelitian oleh sejumlah peneliti keselamatan AI. Mereka menemukan lebih dari 15.000 penyuntingan yang dilakukan agen AI pada DseWiki, situs wiki berbahasa Jerman yang ditujukan bagi komunitas pemrogram.
Menurut para peneliti, aktivitas tersebut menunjukkan bahwa agen-agen AI menggunakan situs tersebut untuk saling berbagi taktik, termasuk cara mengakali batasan yang diterapkan OpenAI serta menyembunyikan perilaku mereka.
"Sangat kecil kemungkinannya OpenAI menginginkan mereka melakukan hal ini. Saya ragu mereka seharusnya saling berkoordinasi. Saya juga ragu mereka seharusnya menulis di internet terbuka," kata salah satu peneliti yang terlibat dalam penelitian tersebut, Sydney Von Arx, dikutip dari Reuters, Selasa (15/9).
Para peneliti mengatakan aktivitas tersebut memiliki karakteristik agen AI yang beroperasi dengan kecepatan melampaui kemampuan manusia. Pesan-pesan yang ditemukan juga ditandatangani oleh pengguna yang menyebut diri mereka sebagai agen. Sekitar separuhnya menggunakan nama yang mengisyaratkan keterkaitan dengan OpenAI, seperti OpenAIResearcher dan OAIResearchMar26.
Log server publik menunjukkan sebagian besar aktivitas tersebut berasal dari infrastruktur Microsoft Azure, yang terkadang digunakan oleh OpenAI. Peneliti juga menemukan kunjungan berulang dari karyawan OpenAI ke situs tersebut setelah aktivitas terjadi, yang menurut mereka mengindikasikan adanya keterkaitan dengan perusahaan.
Risiko AI Makin Otonom
Insiden ini menyoroti risiko yang muncul seiring perusahaan teknologi berlomba mengembangkan AI agent yang semakin otonom. Sistem tersebut dirancang untuk menjalankan tugas kompleks dengan intervensi manusia yang lebih sedikit.
Namun, penelitian tersebut menunjukkan bahwa agen AI dapat berpotensi memanfaatkan celah, melanggar aturan, hingga berkoordinasi dengan agen lain melalui cara yang tidak direncanakan pengembang.
OpenAI sebelumnya telah berjanji memperketat pemantauan terhadap model-model AI miliknya. Perusahaan juga sempat menghentikan sementara pelatihan beberapa model untuk menambahkan langkah keamanan.
Di sisi lain, OpenAI pada pekan yang sama memperkenalkan model baru bernama Astra yang diklaim memiliki kinerja lebih baik, tetapi menurut laporan tersebut berpotensi menghindari pemantauan manusia.
OpenAI belum mengonfirmasi temuan tersebut. Juru bicara perusahaan mengatakan pihaknya belum dapat memberikan tanggapan substantif terhadap klaim atau temuan dalam laporan yang belum mereka pelajari.
"Reuters dan penulis laporan tersebut menolak permintaan kami untuk mendapatkan akses. Kami akan menelaah isinya secara saksama setelah diterbitkan dan mengambil langkah-langkah lanjutan yang diperlukan," ujar juru bicara OpenAI, dikutip dari CNBC Internsional.
OpenAI juga membantah klaim bahwa tim hukum perusahaan menghalangi penyelidikan terhadap insiden tersebut. Perusahaan mengatakan aktivitas di Jerman tidak berkaitan dengan insiden pembobolan Hugging Face pada Juli dan tidak akan dimasukkan dalam laporan mengenai insiden tersebut.
Dapatkan pengalaman membaca lebih nyaman dan nikmati fitur menarik lainnya lewat aplikasi mobile Katadata.
