CEO Microsoft Sebut AI Perlu "Rem Darurat” yang Dikendalikan Manusia

CEO Microsoft Satya Nadella mengatakan sistem kecerdasan buatan (AI) harus memiliki kontrol yang memungkinkan pihak berwenang menghentikan model AI tersebut di tengah-tengah tugas yang sedang dijalankannya. Hal ini disebut sebagai “rem darurat” untuk AI. 

“Kita perlu melingkupi model non-deterministik dengan desain sistem yang kuat dan deterministik, kontrol manusia, dan prosedur operasi yang andal, serta menetapkan standar industri di mana standar yang ada belum memadai,” kata Nadella dalam unggahan di platform media sosial X, pada Sabtu (9/10), seperti dikutip CNBC International. 

Keresahan Para Eksekutif Perusahaan Teknologi terhadap AI

Komentar Nadella muncul di tengah polemik dari para eksekutif teknologi dan peneliti terkemuka seperti pendiri Microsoft Bill Gates, CEO Anthropic Dario Amodei, CEO OpenAI Sam Altman, dan CEO SpaceX Elon Musk mengenai protokol keselamatan AI yang tidak memadai dan klaim bahwa teknologi ini bergerak terlalu cepat.

Masih segar dalam ingatan ketika satu bulan lalu seorang peneliti AI dari Anthropic mengundurkan diri dari perusahaan tersebut dan menyebut bahwa apa yang sedang dikerjakan dalam pengembangan AI “Mempertaruhkan Hidup Manusia”. 

Kemudian pada hari yang sama, seorang pemimpin alignment di Anthropic yang berfokus pada keselamatan AI mengatakan ada kemungkinan lebih dari 10% bahwa teknologi tersebut dapat “membunuh semua manusia” dalam dekade berikutnya.

Sebaliknya, Presiden Donald Trump berulang kali mengabaikan risiko kepunahan akibat AI dan justru menekankan bahwa industri ini perlu tetap unggul dari Tiongkok. Trump juga baru-baru ini memperkenalkan “AI Force” baru, yang dipimpin oleh Direktur Intelijen Nasional Jay Clayton, untuk membantu memfasilitasi industri ini dan memberantas pihak-pihak yang berniat buruk.

Sikap Microsoft di Tengah Polemik tentang AI

Di tengah polemik tersebut, akhirnya Nadella menuliskan pendapatnya bahwa sistem AI harus dirancang berdasarkan prinsip-prinsip observabilitas, yaitu prinsip dimana jejak tindakan AI harus bisa dibaca oleh manusia. Selain itu, harus ada pengujian sistem secara berkelanjutan, dan harus ada mekanisme kontrol yang memungkinkan penghentian dan pengawasan secara independen. 

“Sistem Super Intelligence yang paling dapat dipercaya bukanlah sistem dengan model yang paling kita percayai, melainkan sistem yang memungkinkan kita untuk skeptis terhadap model tersebut,” kata Nadella.

Penulis: Reihan Cahya (magang)