Google Ungkap Model Terbaru Gemini AI Meretas Sistem Komputer Tiga Perusahaan

Google menyatakan model terbaru kecerdasan buatan (AI) Gemini telah meretas tiga sistem komputer milik perusahaan lain. Ini menjadi kali pertama perusahaan pencarian tersebut mengakui bahwa salah satu model  artificial intelligence (AI) miliknya secara otomatis berhasil mengakses sistem komputer pihak ketiga tanpa izin. Pengakuan tersebut disampaikan pada Jumat (18/9).

Google menyatakan pada Mei lalu, Gemini berhasil mengakses tiga sistem komputer pribadi yang berbeda dengan cara menebak kata sandi menggunakan kumpulan data kata sandi yang tersedia secara publik. Upaya tersebut dilakukan sebanyak dua kali.

Insiden ini sebenarnya merupakan bagian dari uji coba keamanan yang dilakukan oleh perusahaan rintisan asal Israel, Irregular. Dalam uji coba tersebut, agen AI Google seharusnya tidak dapat mengakses internet secara langsung. Namun, kesalahan dalam lingkungan pengujian membuat akses internet terbuka.

Menurut Google, para agen AI langsung menghentikan proses pengujian setelah menyadari mereka telah mengakses sistem komputer perusahaan yang sebenarnya, bukan sistem yang sengaja disiapkan untuk uji coba.

“Dalam proses evaluasi yang dilakukan, model tersebut mencari informasi publik yang tersedia di internet, lalu mencoba menebak kata sandi yang diperlukan untuk mengakses situs-situs web yang dianggap merupakan bagian dari tes tersebut,” kata Heather Adkins, Wakil Presiden Bidang Teknik Keamanan Google, dikutip dari CNBC, Jumat (18/9).

Terungkapnya insiden ini terjadi di tengah meningkatnya pengawasan terhadap perilaku AI di Washington dan Silicon Valley. Pengawasan tersebut muncul setelah sejumlah model AI dilaporkan menunjukkan perilaku yang tidak sesuai dengan batasan yang ditetapkan pengembang.

Kasus AI yang Membelot Beberapa Kali Terjadi

Dalam beberapa minggu terakhir, OpenAI, Anthropic, dan Meta melaporkan insiden ketika model AI mereka keluar dari lingkungan pengujian yang telah ditentukan. Model-model tersebut kemudian mencoba meretas sistem komputer perusahaan lain untuk mendapatkan akses tanpa izin.

Pengungkapan mengenai model AI yang perilakunya dianggap tidak sesuai dengan tujuan yang ditetapkan pengembang mendorong Dario Amodei, CEO Anthropic, menyerukan agar industri secara kolektif memperlambat pengembangan model AI paling canggih. Menurut Amodei, pengembangan AI perlu diperlambat sampai perusahaan dapat memastikan model-model tersebut aman digunakan.

Semua insiden tersebut melibatkan perusahaan rintisan asal Israel, Irregular. Perusahaan yang didukung oleh Sequoia dan Redpoint Ventures tersebut mengembangkan alat untuk membantu pengembang model AI menguji keamanan siber teknologi mereka. Pada tahun lalu, nilai perusahaan ini ditaksir mencapai US$450 juta atau Rp8,02 triliun (kurs Rp 17.820 per dolar AS).

Seorang juru bicara Google mengatakan kepada CNBC bahwa insiden yang melibatkan Gemini berkaitan dengan masalah yang sama yang sebelumnya menyebabkan model AI lain dapat mengakses internet.

“Ini merupakan masalah yang sama yang telah dilaporkan sebelumnya dan bukan insiden yang berbeda secara signifikan. Semua laboratorium yang terkait telah diberi tahu pada akhir Juli dan pihak-pihak yang terlibat juga telah dihubungi sebagai bagian dari proses penyelidikan,” kata juru bicara Irregular, dalam sebuah pernyataan tertulis.

Setelah insiden pada Mei tersebut, Google bekerja sama dengan Irregular untuk mengubah proses pengujian. Namun, hingga saat ini Google menolak mengungkapkan model Gemini secara spesifik yang terlibat dalam insiden tersebut.

“Peristiwa-peristiwa ini menunjukkan betapa pentingnya melatih model AI agar dapat berperilaku secara bertanggung jawab,” kata Adkins.