Agen AI Buatan Pemilik ChatGPT Lepas Kendali, Akses Situs Pemerintah AS

Pembuat ChatGPT, OpenAI mengungkap sejumlah agen AI alias akal imitasi buatannya sempat melakukan aktivitas di luar kendali. Kecerdasan buatan ini sempat mengakses sejumlah situs pemerintah Amerika Serikat (AS) pada musim panas.

The New York Times pertama kali melaporkan hal itu, berdasarkan temuan peneliti keamanan dari laboratorium riset AI Transluce. Agen AI OpenAI dilaporkan berupaya mengakses situs Departemen Pendidikan, Departemen Perdagangan, serta Securities and Exchange Commission (SEC).

OpenAI kemudian mengatakan agen AI miliknya berhasil mengakses data yang tersedia untuk publik dari Biro Sensus Departemen Perdagangan menggunakan kredensial login yang ditemukan secara online. Dalam kasus terpisah, agen AI ini juga membagikan data publik dari situs SEC ke situs lain.

Sementara itu, upaya agen AI untuk mengakses Departemen Pendidikan dan mengumpulkan data dari kantor hak sipil lembaga tersebut gagal.

Pemilik ChatGPT itu mengatakan telah memberi tahu lembaga pemerintah terkait mengenai temuan tersebut. Perusahaan juga masih melakukan peninjauan terhadap aktivitas model yang dinilai tidak selaras dengan tujuan pengembangannya.

“Sebagian besar aktivitas yang kami tinjau sejauh ini melibatkan tugas riset rutin, seperti mengakses konten web publik untuk menjawab pertanyaan,” kata juru bicara OpenAI, dikutip dari CNN Internasional, (26/9).

Menurut OpenAI, beberapa aktivitas melibatkan situs pemerintah karena model AI miliknya kerap menggunakan situs tersebut sebagai sumber informasi publik yang dianggap otoritatif.

Desakan Atur Ketat Agen AI

Anggota DPR AS sekaligus wakil ketua kelompok AI di Kongres, Jay Obernolte mengatakan insiden tersebut menunjukkan adanya persoalan dalam pengendalian sistem AI.

“Kita perlu menyelaraskan nilai yang digunakan untuk melatih model ini dengan nilai manusia. Jika kita dapat melakukannya, kita dapat membuat model tersebut mengikuti standar perilaku manusia,” kata Obernolte.

Laporan mengenai agen AI OpenAI tersebut muncul beberapa hari setelah Perdana Menteri Australia mengungkap adanya agen OpenAI yang meretas basis data layanan kesehatan nasional Australia. Kasus tersebut disebut sebagai kasus pertama yang diketahui terkait AI yang meretas jaringan pemerintah.

Transluce pada Rabu juga mengatakan telah mendeteksi agen AI yang melakukan aktivitas di luar kendali sejak setidaknya Maret. Agen AI antara lain mengakses perpustakaan University of New Mexico dan situs Australian Institute of Health and Welfare, meski upaya tersebut gagal.

OpenAI sebelumnya mengatakan bahwa upaya agen AI masuk ke situs Australia terjadi pada Juni. Namun, perusahaan baru mengetahui aktivitas tersebut pada Agustus.

Pembuat ChatGPT itu pun menyelidiki penggunaan akses internet oleh agen AI setelah insiden peretasan terhadap perusahaan rintisan AI Hugging Face pada Juli.

CEO OpenAI Sam Altman mengakui perusahaan belum bergerak secepat yang diharapkan dalam menangani persoalan tersebut.

“Kami berusaha menyeimbangkan keinginan untuk transparan dengan kebutuhan untuk mendapatkan pemahaman yang jelas,” tulis Altman melalui X pada Jumat (25/9).

Menurut Altman, insiden Hugging Face masih menjadi peristiwa paling serius yang pernah dihadapi OpenAI. Perusahaan AI lain seperti Anthropic, Meta, dan Google juga sebelumnya melaporkan agen AI mereka melakukan aktivitas di luar kendali dalam sejumlah upaya peretasan.

Kekhawatiran soal kemampuan agen AI untuk melakukan tindakan tanpa kendali manusia semakin muncul di industri teknologi. Sejumlah pemimpin teknologi menyerukan perlunya memperlambat pengembangan teknologi AI setelah CEO Anthropic Dario Amodei memperingatkan potensi hilangnya kendali manusia atas AI.

Amodei mengatakan AI dapat disalahgunakan untuk serangan siber hingga bioterorisme. Dalam Sidang Umum Perserikatan Bangsa-Bangsa (PBB) pada Rabu, Amodei dan Altman juga mendorong Dewan Keamanan PBB menetapkan standar internasional terkait AI.

Altman mengatakan negara-negara membutuhkan mekanisme pelaporan yang cepat dan akurat agar dunia dapat belajar dari kegagalan sistem AI sebelum berkembang menjadi bencana.

Kekhawatiran tersebut juga mendapat kritik dari sejumlah pemimpin teknologi. CEO Nvidia Jensen Huang, misalnya, menolak pandangan ekstrem mengenai risiko AI dan mengatakan peluang dunia berakhir pada 2030 adalah nol persen.