BI Ingatkan Risiko AI di Perbankan: Penipuan hingga Ancaman Tarik Uang Massal

Bank Indonesia (BI) menyebut, di tengah adopsi penggunaan akal imitasi (AI) oleh industri perbankan, bank-bank di Indonesia perlu mewaspadai sejumlah kerentanan. Mulai dari kerentanan keamanan sampai model AI yang bisa mengarah ke herding behavior.

Hal itu disampaikan Kepala Departemen Inovasi dan Digitalisasi Data BI Ricky Satria. Ancaman modus-modus penipuan yang melibatkan perbankan, disebut semakin tampak meyakinkan dengan adanya AI.

Modus penipuan AI ini bisa mengolah hingga bisa menggunakan suara tiruan, bahkan wajah palsu melalui video call. Selain itu, serangan digital dengan menggunakan AI terhadap celah perbankan juga semakin cepat dalam hitungan jam, tidak lagi memakan waktu berminggu-minggu,

“Serangan sangat cepat, bukan lagi berminggu-minggu. Kemudian banyak bank-bank besar, seperti kejadian JPMorgan, kemarin agennya banyak tapi tidak diketahui. Padahal agennya dapat ekspos data nasabah,” kata Ricky dalam acara perilisan buku putih Digital Sovereign AI and the Future of Trusted Banking oleh IBM, Perbanas, dan K&A, Selasa (27/10).

Beberapa hari lalu, CNBC Internasional sempat melaporkan bahwa JPMorgan memblokir agen AI pihak ketiga seperti Muse Meta dan Instinct agar tidak dapat mengakses aktivitas logging atau melakukan transaksi menggunakan atau mewakili akun nasabah. Pemblokiran ini dilakukan dengan alasan keamanan dan perlindungan nasabah.

Alih-alih menggunakan agen AI eksternal, JPMorgan sedang mengembangkan dan menguji coba alat internal mereka.

Menurut Ricky, kejadian itu membuat JPMorgan sempat kelimpungan sebab tidak bisa membedakan yang mana agen AI resmi mereka dan yang mana agen rogue. Ricky menyebut ancaman ketika agen sah dan agen “liar” yang semakin susah dibedakan identitasnya seperti iji, harus diwaspadai.

Selain itu, BI menilai perbankan cenderung terkonsentrasi pada segelintir penyedia model dan komputasi awan (cloud), menjadikannya rentan terhadap herding behavior. Herding behavior merupakan perilaku meniru secara massal, ketika jutaan agen AI bergerak serentak karena algoritma dan otomatisasi berskala besar.

“Kalau masyarakat disediakan agen AI dan modelnya sama, dan semua memberikan rekomendasi yang sama pada suatu waktu, itu bukan lagi memberikan rekomendasi untuk satu orang, tapi seluruh nasabah. Apalagi jika kita belum tahu kalau agennya salah. Bisa kacau ekonomi jika seperti ini,” kata Ricky.

Peringatan terkait herding behaviour ini juga menjadi sorotan bank-bank besar dunia, termasuk International Monetary Fund (IMF). Menurut IMF, herding behaviour bisa muncul karena berbagai model AI menggunakan informasi yang sama untuk mengambil keputusan. Informasi-informasi ini mulai dari laporan keuangan, berita ekonomi, hingga dokumen regulator yang sama.

Dalam kondisi stabil, kemampuan AI ini bisa membantu mengambil keputusan investasi sehingga meningkatkan likuiditas. Namun pada saat pasar keuangan bergejolak, risikonya meningkat. Dan jika herding behaviour ini berlanjut di saat tekanan pasar, likuiditas, dan kepercayaan nasabah memburuk, dapat merembet hingga penarikan simpanan massal atau bank run.

Untuk itu, BI menyebut salah satunya penting bagi perbankan Indonesia untuk memiliki kontrol atas AI yang mereka gunakan lewat sovereign AI. Untuk diketahui, sovereign AI adalah konsep kedaulatan AI di mana suatu negara atau organisasi mengembangkan, mengoperasikan, dan mengendalikan model serta infrastruktur AI secara mandiri.

“Kita memang butuh terbuka terhadap inovasi (teknologi dan AI), tetapi harus sepenuhnya memegang kontrol,” kata Ricky.