OpenAI Serukan Standar Global untuk Jaga AI Tetap di Bawah Kendali Manusia

OpenAI mendorong pembentukan standar global untuk memastikan pengembangan akal imitasi (AI) frontier tetap aman dan berada di bawah kendali manusia. Salah satu perhatian utama perusahaan adalah teknologi recursive self-improvement (RSI).

Dalam proposal yang dipublikasikan pada Senin (21/9), OpenAI menyerukan kerja sama internasional untuk menyusun standar teknis bagi pengembangan AI frontier.

Pembuat ChatGPT itu menilai perkembangan kemampuan AI perlu diimbangi dengan riset, sebagai upaya memastikan perilaku dan tujuan sistem AI tetap sesuai dengan nilai serta kepentingan manusia.

 "Sehingga sistem yang kami dan pihak lain bangun tetap selaras dengan nilai-nilai manusia dan berada di bawah kendali manusia,” kata OpenAI dalam unggahan blognya.

Standar yang diusulkan mencakup model AI frontier dan pengembangnya. OpenAI juga mengusulkan kerangka untuk mengukur manfaat dan risiko dari penggunaan peneliti AI otomatis, termasuk sistem yang berkaitan dengan RSI.

 Waspadai AI Bisa Mengembangkan Diri

Meski begitu RSI menjadi perhatian karena berpotensi memungkinkan AI mengambil peran yang semakin besar dalam proses penelitian dan pengembangan AI itu sendiri.

Dalam skenario RSI yang sepenuhnya otomatis, sistem AI dapat mendorong pengembangan generasi AI berikutnya tanpa keterlibatan manusia secara langsung. OpenAI menilai kemampuan tersebut belum terjadi saat ini dan seharusnya tidak dikembangkan lebih jauh sebelum aspek keamanannya dapat dipastikan.

“RSI yang sepenuhnya otonom belum terjadi saat ini, dan kita seharusnya tidak mengejarnya kecuali sampai teknologi tersebut dapat dilakukan dengan aman,” tulis OpenAI.

Perusahaan memperingatkan pengembangan RSI tanpa pengamanan yang memadai dapat membuat manusia kehilangan kendali praktis atas proses pengembangan AI. Risiko lainnya adalah manusia tidak lagi mampu mengawasi proses penelitian yang menjadi semakin kompleks.

Meski RSI penuh belum terjadi, OpenAI menyebut AI saat ini sudah mulai mempercepat sejumlah tahapan penelitian yang digunakan untuk mengembangkan dan menyelaraskan model AI generasi berikutnya.

Pesan Sama dari Anthropic

 Pekan lalu, pesaing OpenAI, Anthropic, menyampaikan gagasannya sendiri mengenai pengembangan model AI frontier yang aman. CEO Anthropic Dario Amodei sebelumnya menyerukan agar perusahaan AI memperlambat laju pengembangan model fondasi agar langkah keselamatan dapat mengikuti perkembangan kemampuan teknologi.

Salah satu gagasan yang turut muncul dalam perdebatan tersebut adalah penggunaan evaluator independen untuk menguji dan mengaudit risiko teknologi AI yang dapat ditimbulkan seperti mempercepat peretasan terkait keamanan siber atau menciptakan senjata biologis.

Pemimpin perusahaan lain seperti CEO OpenAI Sam Altman serta CEO Tesla dan SpaceX Elon Musk juga secara terbuka mendukung usulan Amodei tersebut.

Namun, bidang evaluasi AI masih berkembang sehingga belum terdapat standar yang seragam mengenai bagaimana pemeriksaan independen terhadap model AI frontier harus dilakukan.