Bos Startup Cerita Foto Palsu AI Pernah Bikin Saham Wall Street Anjlok

Founder startup Kata.AI Irzan Raditya bercerita bagaimana foto palsu buatan AI bisa menimbulkan misinformasi yang memengaruhi dunia finansial. Pada 2023, foto yang menampilkan ledakan di dekat Gedung Pentagon sempat membuat indeks saham Amerika Serikat Wall Street anjlok.

Melansir Bloomberg, foto itu sempat membuat indeks S&P 500 turun sekitar 0,3% sebelum kembali menguat usai klarifikasi resmi. Indeks ini memuat daftar 500 perusahaan publik terbesar di Amerika Serikat berdasarkan nilai pasar.

Foto palsu buatan AI itu awalnya muncul di Facebook, lalu menyebar melalui akun-akun dengan banyak pengikut di X atau Twitter. Kepolisian Arlington dan pejabat Pentagon segera menegaskan bahwa tidak ada insiden apa pun di area tersebut.

Menurut laporan, petugas dari Pentagon mengirim email yang mengklarifikasi bahwa foto itu palsu. Departemen Kepolisian Arlington juga mengklarifikasi lewat unggahan di X, bahwa tak ada ledakan atau insiden di dekat Gedung Pentagon.

Pendiri startup Kata.ai Irzan mengatakan, pada saat itu, edukasi publik terkait AI generatif masih rendah sehingga verifikasi konten belum memadai. “Dalam hitungan menit, foto itu sudah viral. Kita tidak bisa membedakan mana yang asli dan mana yang palsu,” ujar dia dalam SMBC TechConnect, di Jakarta Selatan, Senin (24/11). 

Risiko serupa juga mengintai sektor keuangan dan kehidupan sehari-hari. Misalnya deepfake berbasis suara yang digunakan untuk menipu keluarga atau kerabat dengan meminta uang melalui rekaman suara yang terdengar mirip pemilik nomor. 

“Ada niat jahat full-cloning, termasuk suara kita direkam dan dipakai untuk tindakan tidak bertanggung jawab,” kata Irzan.

Merujuk pada kasus-kasus itu, menurut dia, risiko terbesar dari perkembangan AI saat ini bukan lagi soal hilangnya pekerjaan, melainkan meningkatnya misinformasi dan disinformasi yang mudah menyebar di ruang digital.

Menurut World Economic Forum Global Risk Report 2024, ancaman utama teknologi generatif yakni kemampuan menghasilkan konten palsu, mulai dari foto, video, hingga suara, yang makin sulit dibedakan dari konten asli.

Otoritas Jasa Keuangan atau OJK sebelumnya melaporkan bahwa kerugian akibat fraud dan kejahatan digital mencapai Rp 7,5 triliun sejak Januari hingga akhir Oktober 2025. Irfan menyebut hal ini menunjukkan perlunya kewaspadaan publik dan mitigasi yang lebih kuat.

Untuk perlindungan diri, Irzan merekomendasikan masyarakat menerapkan framework 3C:

1. Channel, yakni memastikan pesan berasal dari kanal resmi,
2. Content, mengingat bahwa lembaga keuangan tidak pernah meminta OTP atau data sensitif melalui pesan,
3. Confirm, selalu melakukan verifikasi ulang sebelum mengambil tindakan.

Irzan menekankan bahwa pertahanan terpenting tetap berada pada pengguna. Untuk menghadapi perkembangan AI yang melaju cepat, organisasi dan masyarakat dapat mengadopsi kerangka 4P:

1. Potential: memahami potensi dan risiko AI,
2. People: meningkatkan literasi dan wawasan,
3. Policy: membangun kebijakan dan tata kelola,
4. Platform: menggunakan teknologi pendukung yang aman.

Ia menuturkan, dengan fondasi literasi dan kebijakan yang kuat, masyarakat lebih siap memanfaatkan peluang ekonomi dari AI.