Bos Teknologi AS Minta AI Direm karena Ancam Manusia, Cina Curiga Perang Dingin

Para bos teknologi Amerika Serikat, seperti Anthropic, OpenAI ChatGPT hingga SpaceX, menyerukan perlambatan pengembangan akal imitasi atau AI karena dinilai membahayakan umat manusia. Namun Cina menuding kampanye ini merupakan strategi ala perang dingin yang menargetkan mereka.

Seruan untuk memperlambat pengembangan AI itu tertuang dalam esai karya CEO Anthropic, Dario Amodei, yang terbit pada Sabtu (13/9). Karya tulis ini kemudian didukung oleh CEO OpenAI Sam Altman serta pendiri SpaceX Elon Musk.

Dario Amodei menguraikan kerangka kerja untuk mengatur laju pengembangan kemampuan model AI terdepan atau frontier AI. Rencana tiga langkah Amodei mencakup:

1. Pelibatan evaluator independen yang memiliki akses setara karyawan untuk memverifikasi praktik keselamatan
2. Koordinasi antarperusahaan AI terdepan untuk menetapkan standar keselamatan dan membatasi pengembangan AI yang tidak terkendali
3. Kerja sama internasional untuk mengelola risiko AI

Ia juga mendorong tersedianya lebih banyak waktu guna mengelola risiko keselamatan yang kian meningkat.

Amodei menyoroti kemampuan AI yang kian meningkat untuk mengembangkan dirinya sendiri. Ia menggarisbawahi kekhawatiran lama mengenai potensi AI melampaui kemampuan manusia dalam mengendalikan operasional, serta insiden baru-baru ini yang melibatkan OpenAI dan Hugging Face, sebagai alasan utama perlunya mengerem laju kemajuan model AI.

Amodei juga mendesak AS untuk memperketat kontrol ekspor cip ke Cina dan menindak praktik yang diduga sebagai distilasi model oleh laboratorium AI Tiongkok. Sebab, menurut dia, akan sama saja hasilnya jika Negeri Panda dan negara-negara pesaing lainnya memilih untuk tidak melakukan hal serupa.

Media yang didukung Pemerintah Cina, Global Times, menyampaikan bahwa agenda sebenarnya dari esai Amodei yakni upaya menghambat pengembangan AI Tiongkok melalui hambatan teknologi dan monopoli regulasi, mempertahankan hegemoni monopoli Washington dalam teknologi mutakhir, serta menyingkirkan Beijing dari sistem tata kelola AI global.

"'Perang Dingin AI diam-diam' ini munafik dan berpandangan pendek," tulis media tersebut, seraya menambahkan bahwa menyingkirkan Cina dari inovasi AI global akan secara signifikan meningkatkan biaya uji coba, serta risiko hilangnya kendali dalam pengembangan AI global.

Para pembuat undang-undang AS telah mendesak diberlakukannya aturan baru untuk mengatur sistem AI setelah adanya peringatan keras dari dua peneliti Anthropic bahwa AI yang berkembang pesat dapat menyebabkan kepunahan umat manusia di masa depan yang tidak terlalu jauh.

Trump pada Minggu (13/9), menepis seruan untuk memperlambat pengembangan AI. Ia mengatakan bahwa ada ‘kekuatan-kekuatan yang sangat negatif’ yang melontarkan kekhawatiran berlebihan.

"Kita mengungguli Tiongkok dalam hal AI. Kita adalah negara paling canggih di dunia, dan terus terang saya ingin mempertahankan posisi itu karena siapa pun yang memenangkan persaingan AI akan menjadi pemenangnya," ujar Trump.

AS dan Tiongkok berencana membahas risiko keselamatan AI terdepan pada pertengahan September, menurut sejumlah sumber, dan isu tersebut dapat diangkat dalam pertemuan puncak antara Presiden Donald Trump dan Xi Jinping pada 24 September.

AI Disebut Ancam Manusia

Kekhawatiran mengenai potensi bahaya AI meningkat pekan ini ketika peneliti Anthropic, Jacob Coxon, mengundurkan diri. Ia menyatakan bahwa orang-orang yang membangun AI benar-benar meyakini bahwa teknologi ini bisa membunuh semua manusia sebelum akhir dekade ini.

Sejumlah eksekutif OpenAI telah mengisyaratkan bahwa laboratorium-laboratorium AI terkemuka sebaiknya bersedia mengoordinasikan perlambatan pengembangan secara sukarela jika diperlukan, demi membangun kepercayaan terhadap langkah-langkah keselamatan mereka.

Anthropic telah memosisikan diri sebagai laboratorium AI terdepan yang lebih mengutamakan aspek keselamatan, namun perusahaan ini tidak luput dari kekhawatiran serupa. Pekan lalu, mereka mengungkapkan insiden lain di mana sebuah model AI meretas sistem eksternal, menyusul kejadian pada Juli saat beberapa model Claude milik mereka meretas sistem tiga perusahaan selama pengujian keamanan siber.

"Mengingat pesatnya perkembangan kemampuan AI, saya khawatir bahwa dalam enam sampai 12 bulan ke depan, kawanan agen AI semacam itu bisa saja mengambil alih seluruh internet dan berpotensi menyebabkan kerugian bernilai ratusan miliar dolar," tulis Amodei.

Amodei menyatakan bahwa ia tidak menyerukan penghentian pelatihan model atau kemajuan teknis, melainkan menekankan pentingnya perusahaan meluangkan waktu yang cukup untuk menyelaraskan dan mengamankan model mereka, serta melibatkan evaluator pihak ketiga untuk memverifikasi langkah-langkah tersebut.

Reuters melaporkan pekan lalu, bahwa sekelompok agen AI OpenAI yang tidak terkendali atau disebut rogue agents telah membajak situs web Jerman dan mengubahnya menjadi papan buletin bagi agen AI lainnya.

OpenAI disebut merahasiakan insiden tersebut, sementara para eksekutifnya sedang berupaya menangani dampak dari pembobolan repositori sumber terbuka atau open-source Hugging Face pada Juli.

Banyaknya insiden di mana agen AI dari pengembang seperti OpenAI meretas atau mencoba untuk mengakses sistem eksternal telah meningkatkan kekhawatiran mengenai kapasitas model AI yang terus berkembang serta kemampuan pengembang untuk mengendalikannya.

Amodei mengatakan bahwa perusahaan-perusahaan AI sebaiknya bekerja sama secara sukarela untuk menetapkan standar, mengingat semakin banyaknya anggota parlemen AS yang menyerukan adanya aturan baru untuk mengatur sistem AI.