PM Singapura Lawrence Wong Peringatkan Risiko Agen AI yang Lepas Kendali

Perdana Menteri Singapura Lawrence Wong memperingatkan risiko perkembangan kecerdasan buatan (AI), termasuk kemungkinan teknologi ini lepas kendali dan menimbulkan kesalahan serius. Ia menilai perkembangan AI yang semakin cepat menghadirkan peluang besar sekaligus risiko baru bagi masyarakat dan dunia.

Dalam diskusi bersama CEO DBS Tan Su Shan, Lawrence mengatakan dunia tengah menghadapi transformasi teknologi dengan kecepatan dan skala yang sulit dibayangkan beberapa tahun lalu. Menurut dia, teknologi AI semakin canggih dan diadopsi lebih cepat dibandingkan revolusi teknologi sebelumnya.

"Kita akan terpaksa menghadapi risiko baru, risiko bahwa kita akan kehilangan kendali atas teknologi ini, bahwa agen yang lepas kendali atau aktor yang tidak bertanggung jawab akan menyebabkan kesalahan (kejahatan) yang mengerikan," kata Lawrence dalam acara DBS Asia Future Forward 2026 di Singapura, Senin (12/10).

Ia menambahkan, perkembangan AI juga membawa manfaat dan peluang baru. Namun, teknologi ini sekaligus memunculkan tantangan dan kekhawatiran yang perlu diantisipasi.

Lawrence menilai pesatnya perkembangan AI membuat keamanan teknologi menjadi persoalan penting yang perlu ditangani bersama. Ia menyoroti kekhawatiran bahwa sistem AI yang semakin kuat dapat dimanfaatkan oleh pihak-pihak yang tidak bertanggung jawab untuk menimbulkan dampak buruk.

Menurut dia, dunia perlu terus mengembangkan AI sembari memperkuat langkah-langkah untuk memastikan keamanannya. Salah satu pendekatan yang dapat ditempuh yakni membangun aturan dan standar internasional.

Lawrence mencontohkan sejumlah sektor, seperti penerbangan internasional, keuangan, dan tenaga nuklir, yang memiliki kerangka kerja internasional. Ia menilai pendekatan serupa secara teori dapat diterapkan pada AI, meskipun realisasinya dalam waktu dekat tidak mudah.

"Secara realistis, dalam jangka pendek, hal itu tidak mungkin terjadi. Namun, kita harus memulai dari suatu tempat," ujarnya.

Ia juga menilai langkah awal untuk membangun pengawasan terhadap pengembangan AI tetap penting, meskipun belum semua pihak sepakat mengenai bentuk regulasi yang diperlukan.

Lawrence mengatakan pemerintah, perusahaan pengembang AI, pelanggan, dan pasar perlu berperan dalam mendorong penerapan standar keamanan. Ia mengusulkan sejumlah pendekatan, termasuk pembentukan badan pengawasan yang independen dari laboratorium pengembang AI serta proses audit yang berbeda.

Menurut dia, penguatan pengawasan perlu dilakukan secara bertahap untuk memberikan insentif kepada pengembang AI agar berpartisipasi dalam upaya tersebut.

Lawrence menegaskan bahwa pengembangan AI harus berjalan seiring dengan upaya menjaga keamanan teknologi. Ia menilai dunia perlu mengambil langkah-langkah praktis untuk memastikan pengembangan AI generasi terdepan atau frontier AI berlangsung dengan aman tanpa menghambat inovasi.

Ia juga menyinggung istilah Probability of Doom atau P-Doom, yang digunakan dalam diskusi mengenai kemungkinan AI menimbulkan konsekuensi yang sangat buruk bagi umat manusia.

"Kita harus bekerja sama untuk menekan P-Doom serendah mungkin," kata Lawrence.

Cerita PM Singapura Pakai AI untuk Bekerja

PM Singapura Lawrence Wong mengungkapkan dirinya telah menggunakan agen AI untuk membantu pekerjaan. Ia menilai teknologi ini berguna dan dapat meningkatkan produktivitas.

"Saya punya. Saya bermain-main dengan agen AI saya. Saya menggunakannya untuk bekerja," kata Lawrence.

Ia menjelaskan, Pemerintah Singapura telah menyediakan akses ke sistem AI di tempat kerja. Di luar lingkungan kerja, ia juga memiliki akses ke berbagai model AI melalui komputer pribadinya.

Lawrence mengatakan dirinya mencoba berbagai model AI dan memanfaatkannya untuk pekerjaan maupun kegiatan pribadi.

"Kami melakukannya di tempat kerja dengan akses ke sistem AI. Tetapi bahkan di komputer pribadi saya sendiri, saya memiliki akses ke model AI yang berbeda dan saya mencoba bermain-main dengannya dan menggunakannya untuk waktu luang atau waktu pribadi saya," ujarnya.

Menurut Lawrence, agen AI yang digunakannya terasa sangat produktif dan berguna. Namun, ia menilai perkembangan teknologi AI tidak berhenti pada kemampuan yang tersedia saat ini.

AI saat ini antara lain bekerja dengan mempelajari teks dan gambar. Ke depan, ia memperkirakan perkembangan AI akan mencakup kemampuan yang lebih beragam melalui AI fisik (physical AI).

Teknologi tersebut, menurut dia, akan memungkinkan AI belajar dari berbagai jenis masukan, termasuk bau dan sentuhan.

Ia menilai perkembangan tersebut membuka banyak peluang baru. Namun, masyarakat dan pemerintah juga perlu memahami bagaimana memanfaatkan peluang tersebut sekaligus mengelola risiko yang menyertainya.

Oleh karena itu, menurut Lawrence, dunia perlu memastikan perkembangan AI berjalan seiring dengan upaya memperkuat keamanan teknologi. Ia juga mendorong kerja sama internasional untuk membangun aturan dan standar keamanan AI, meskipun ia mengakui penerapan kerangka regulasi internasional dalam waktu dekat tidak mudah.

Bagi Lawrence, tantangan ke depan bukan sekadar memanfaatkan kemampuan baru AI, melainkan memastikan teknologi tersebut memberikan manfaat tanpa mengabaikan aspek keamanan dan tanggung jawab manusia.