Google, Microsoft, dan OpenAI Bentuk Organisasi untuk Promosi AI Aman
“Inisiatif ini merupakan langkah penting untuk menyatukan sektor teknologi dalam memajukan AI secara bertanggung jawab dan mengatasi tantangan sehingga bermanfaat bagi seluruh umat manusia,” sambungnya.
Pengumuman tersebut muncul sehari setelah pakar AI yakni, CEO Anthropic Dario Amodei dan perintis AI Yoshua Bengio memperingatkan anggota parlemen tentang risiko sosial serius yang berasal dari implementasi AI. Mereka bahkan menyebutnya malapetaka yang berasal dari pengembangan AI yang tidak terkendali.
“Secara khusus, saya khawatir sistem AI dapat disalahgunakan dalam skala besar di bidang keamanan siber, teknologi nuklir, kimia, dan terutama biologi,” kata Amodei dalam kesaksian tertulisnya.
Dalam dua hingga tiga tahun, kata Amodei, AI bisa menjadi cukup kuat untuk membantu aktor jahat membangun senjata biologis fungsional, di mana saat ini para aktor tersebut mungkin kekurangan pengetahuan khusus yang diperlukan untuk menyelesaikan prosesnya.
Cara terbaik untuk mencegah bahaya besar, kata Bengio kepada panel Senat, adalah dengan membatasi akses ke sistem AI. Selain itu, mengembangkan rezim pengujian standar dan efektif untuk memastikan sistem tersebut mencerminkan nilai-nilai sosial bersama, dan membatasi seberapa banyak dunia yang benar-benar dapat dipahami oleh satu sistem AI. Terakhir, membatasi dampak yang dapat ditimbulkan oleh sistem AI di dunia nyata.
