AI Salah Baca Intelijen, Operasi Militer AS Hampir Picu Perang dengan Cina

Suatu laporan intelijen militer AS yang sangat tidak akurat, yang dihasilkan dengan akal imitasi atau AI hampir memicu Perang Dunia III, menurut dilaporkan CNN Internasional.

Pada musim semi, para pejabat militer AS melancarkan operasi untuk mencegat kapal Cina yang mereka yakini mengangkut material senjata nuklir di Timur Tengah. Para anggota militer bersiap untuk menaiki kapal, dan pesawat militer sudah berada di udara, menurut beberapa sumber kepada CNN, dikutip pada Jumat waktu setempat (18/9).

Menurut dua dari sumber tersebut, anggota militer AS bersenjata bersiap untuk menaiki kapal. "Pesawat-pesawat militer berada di udara," kata salah satu sumber dan sumber lain yang mengetahui insiden tersebut.

Tepat sebelum operasi yang direncanakan, para pejabat meneliti lebih dalam laporan yang disusun oleh seorang analis komando operasi khusus dan menemukan bahwa laporan tersebut dihasilkan dengan bantuan AI, dan bahwa chatbot yang digunakan analis itu secara tidak akurat mengidentifikasi material yang dibawa kapal tersebut.

Menurut salah satu sumber, laporan itu 'sepenuhnya salah dan hampir memicu perang'. Operasi AS apa pun terhadap kapal Cina berisiko memicu konflik bersenjata antara kedua negara.

Di seluruh militer AS dan komunitas intelijen, para pejabat berupaya untuk mengintegrasikan AI ke hampir setiap aspek pekerjaan mereka, mulai dari menganalisis sejumlah besar data intelijen mentah yang dikumpulkan AS dan memilih target serangan, hingga aplikasi yang lebih sederhana seperti mengelola anggaran, logistik, dan rantai pasokan.

Namun, insiden itu menggarisbawahi risiko besar penggunaan teknologi baru yang canggih dan relatif kurang dipahami ini untuk penargetan di tengah perang. Para analis telah lama khawatir bahwa AI dapat menyebabkan kesalahan perhitungan yang dahsyat jika negara-negara bergantung pada data yang buruk atau rusak, jenis kesalahan perhitungan yang dapat menyebabkan Amerika Serikat menembaki kapal Tiongkok berdasarkan informasi yang tidak akurat.

Dalam kasus khusus ini, analis tersebut menanyakan kepada chatbot tentang beberapa laporan intelijen mengenai manifes kapal yang berasal dari Komando Operasi Khusus AS Pasifik, yang berbasis di Hawaii. Tidak jelas apakah chatbot AI itu merupakan produk komersial atau produk pemerintah AS.

“Alat-alat internal sebagian besar hanyalah salinan dari perangkat lunak komersial yang diberi polesan,” kata seorang mantan pejabat senior AS yang akrab dengan sistem AI yang digunakan oleh analis militer dan intelijen.

Bot tersebut menggabungkan intelijen sumber terbuka dengan intelijen sinyal rahasia yang dimiliki pemerintah dan mencapai kesimpulan yang menentukan tentang material yang dibawa kapal tersebut.

Analis tersebut kemudian menggunakan AI lagi untuk menyusun temuan-temuan tersebut menjadi laporan intelijen standar, jenis laporan yang dipercaya oleh para pejabat militer. Kemudian ia menyebarluaskannya.

Komando Operasi Khusus AS Pasifik dan Pentagon tidak menanggapi permintaan komentar.

Militer AS Adopsi AI

Alasan di balik adopsi AI yang cepat yakni karena akal imitasu dapat membantu militer dalam mengambil keputusan di medan perang, seperti target mana yang akan diserang atau aset militer mana yang harus dipindahkan ke mana, dengan lebih cepat.

Para pejabat mengatakan AS tidak boleh tertinggal dalam mengintegrasikan AI jika suatu hari nanti harus melawan Cina atau musuh lain yang berpotensi mampu selangkah lebih maju dari AS.

Pada Januari, Menteri Pertahanan Pete Hegseth merilis 'Strategi Percepatan Kecerdasan Buatan' dari lembaganya dalam upaya untuk mempercepat penggunaan AI oleh militer.

“Kami akan mendorong eksperimen, menghilangkan hambatan birokrasi, memfokuskan investasi kami, dan menunjukkan pendekatan eksekusi yang dibutuhkan untuk memastikan kami memimpin dalam AI militer,” kata Hegseth dalam pidato yang mengumumkan strategi tersebut .

Strategi itu juga mendorong penggunaan AI secara luas di seluruh militer, memerintahkan departemen untuk menyediakan AI melalui beberapa program dengan tujuan mendemokratisasi eksperimen dan transformasi AI di seluruh departemen, dengan menempatkan model AI terkemuka dunia Amerika langsung di tangan tiga juta personel sipil dan militer kita, di semua tingkatan klasifikasi.

Namun, upaya tersebut bersifat terdesentralisasi, menurut beberapa pejabat AS yang memahami dinamika tersebut. Berbagai bagian pemerintah menggunakan berbagai alat di bawah perintah dan standar keamanan yang berbeda. Tidak ada satu set standar pun tentang bagaimana AS memverifikasi informasi yang dihasilkan oleh alat-alat ini. Konstelasi berbagai sistem AI yang digunakan oleh berbagai kalangan militer dan komunitas intelijen berarti bahwa keandalan dan fungsionalitas relatifnya sangat bervariasi.

Selama berminggu-minggu, para pembuat kebijakan di Washington telah memperdebatkan AI secara intensif setelah serangkaian peringatan mengerikan dari para insinyur Silicon Valley dan CEO perusahaan teknologi tentang kemungkinan bahwa AI dapat melepaskan diri dari batasan manusia, dengan konsekuensi yang berpotensi mengakhiri peradaban.

Bahaya AI

Insiden analisis kapal Cina dinilai menggarisbawahi risiko yang berbeda, dan lebih mendesak: manusia membuat keputusan yang membawa malapetaka berdasarkan informasi yang tidak akurat atau menyesatkan yang dihasilkan oleh AI atau sistem otomatis lainnya. Sumber-sumber mengatakan bahwa militer dengan cepat beralih ke AI untuk membantu penargetan, suatu bidang yang jelas berisiko menyebabkan kesalahan fatal.

“Penggunaan AI dalam penargetan jelas merupakan sesuatu yang sedang meningkat dan tidak ada panduan nyata tentang bagaimana keterlibatan manusia dalam proses tersebut dapat mencegah korban sipil atau penembakan sesama pasukan,” kata sumber lain yang mengetahui kebijakan militer saat ini.

Menurut salah satu sumber, jenis 'halusinasi' yang ditimbulkan oleh alat yang digunakan oleh analis dalam kasus ini bukanlah insiden terisolasi di seluruh komunitas intelijen sejak alat-alat ini mulai menyebar di pemerintahan.

Bagi beberapa pejabat intelijen senior, bahkan mereka yang secara umum mendukung penggunaan AI di dalam militer, AI telah memberi tekanan pada analis untuk menghasilkan dan menyebarkan intelijen lebih cepat, sehingga membuka peluang terjadinya kesalahan. Beberapa sumber mengatakan, analis muda khususnya, sudah terbiasa menggunakan alat-alat ini dan lebih cenderung mempercayainya tanpa kritik.

“AI memungkinkan Anda untuk menemukan ide buruk lebih cepat,” kata salah satu sumber.