Agentic AI Masuk Sektor Keuangan, Komdigi Soroti Risiko Transaksi Tanpa Manusia

Perkembangan kecerdasan buatan atau AI di sektor jasa keuangan mulai memasuki fase baru. Dengan a danya agentic AI memungkinkan sistem tidak lagi sekadar membantu manusia mengambil keputusan, tetapi juga menjalankan keputusan secara lebih mandiri, termasuk melakukan transaksi.

Wakil Menteri Komunikasi dan Digital (Komdigi) Nezar Patria mengatakan perkembangan tersebut membawa konsekuensi baru terhadap pengelolaan risiko di sektor keuangan. Sebab, AI yang diberikan kewenangan tertentu dapat mengambil keputusan sekaligus mengeksekusinya tanpa campur tangan manusia secara langsung.

“Agentic AI apabila diberikan otoritas tertentu untuk decision making, dia bisa juga melakukan transaksi. Dan transaksi itu dilakukan antara agentic AI juga. AI dan AI berkomunikasi untuk memutuskan transaksi,” kata Nezar dalam pernyataan tertulisnya, Kamis (28/8).

Menurutnya, kondisi tersebut membuat risiko AI di sektor keuangan berbeda dibandingkan penggunaan AI sebagai alat bantu. Menuurtnya, saat AI hanya memberikan rekomendasi, keputusan akhir masih berada di tangan manusia.

Namun, ketika sistem diberikan kewenangan untuk mengambil keputusan dan menjalankan tindakan, kesalahan sistem dapat langsung berdampak terhadap transaksi dan konsumen.

“Risikonya tentu besar juga sehingga mitigasi, regulasi, dalam soal ini harus kita siapkan juga mulai sekarang,” katanya.

Regulasi Tak Bisa Menunggu

Nezar menilai pemerintah perlu menyiapkan kerangka tata kelola sebelum penggunaan AI dengan tingkat otonomi tinggi berkembang lebih luas di sektor keuangan. Ia mengatakan, aturan tersebut perlu menjawab sejumlah persoalan.

Semua persoalan tersebut mulai dari batas kewenangan AI, mekanisme pengawasan manusia, hingga pihak yang bertanggung jawab apabila keputusan yang dibuat sistem menimbulkan kerugian.

Aspek lain yang perlu diperhatikan mencakup keamanan data, manajemen risiko, serta mitigasi ketika satu sistem AI berinteraksi dengan sistem AI lainnya.

Persoalan tersebut menjadi semakin penting karena keputusan AI di sektor keuangan dapat bersinggungan langsung dengan transaksi, data pribadi, layanan keuangan, hingga akses masyarakat terhadap produk keuangan.

Kementerian Komdigi sebelumnya telah memiliki Surat Edaran Menteri Komunikasi dan Informatika Nomor 9 Tahun 2023 tentang Etika Kecerdasan Artifisial sebagai salah satu acuan pemanfaatan AI secara bertanggung jawab.

Pemerintah saat ini juga tengah menyiapkan Peta Jalan Kecerdasan Artifisial Nasional dan panduan etika AI. Menurut Nezar, kedua kerangka tersebut sedang diproses untuk ditetapkan melalui peraturan presiden.

“Ini sedang dalam proses untuk bisa ditetapkan menjadi peraturan presiden bersama dengan panduan untuk etika artificial intelligence,” ujarnya.

Masuknya AI dengan tingkat otonomi lebih tinggi ke sektor keuangan juga mengubah kebutuhan kompetensi sumber daya manusia. Nezar mengatakan talenta di era AI tidak cukup hanya mampu menggunakan teknologi.

Nantimnya talenta di era AI juga perlu memahami tata kelola data, manajemen risiko AI, keamanan siber, etika, serta aspek akuntabilitas. “Talenta yang unggul di era AI ini bukan hanya mahir menggunakan teknologi, tetapi mereka juga harus mampu memastikan teknologi tetap berpihak pada manusia,” katanya.

Menurut Nezar, pengembangan ekosistem tersebut membutuhkan kolaborasi antara Kemkomdigi dan Otoritas Jasa Keuangan (OJK). Kerja sama dapat dilakukan melalui penyelarasan prinsip tata kelola AI, pengembangan talenta, hingga pengujian inovasi melalui sandbox lintas sektor.

“Kolaborasi antara Komdigi dan OJK inilah yang akan menjadi tulang punggung ekosistem keuangan digital yang inovatif sekaligus aman,” tandasnya.

IBM Indonesia sebelumnya mengungkapkan Indonesia diperkirakan membutuhkan sedikitnya 9 juta talenta digital pada 2030. Developer menjadi salah satu kelompok yang dinilai berperan penting dalam mendorong modernisasi operasional dan percepatan adopsi AI.

Direktur Ekosistem Kecerdasan Artifisial dan Teknologi Emerging Direktorat Jenderal Ekosistem Digital Kementerian Komdigi Said Mirza Pahlevi mengungkapkan pentingnya memperkuat ekosistem digital. Menurutnya, hal tersebut menjadi kunci untuk mengubah ambisi menjadi dampak nyata.