OJK Soroti Risiko AI di Bank, Ungkap Tiga Hal yang Wajib Disiapkan

Otoritas Jasa Keuangan (OJK) mengingatkan industri perbankan agar memperkuat tata kelola dan pengawasan dalam penerapan akal imitasi (AI). Penggunaan teknologi ini tidak cukup hanya berfokus pada kemampuan model, tetapi juga perlu didukung kesiapan sumber daya manusia (SDM), akuntabilitas, dan keandalan sistem.

Deputi Komisioner Pengaturan, Perizinan dan Pengendalian Kualitas OJK Deden Firman H mengatakan, ada sejumlah hal yang perlu diperhatikan bank agar penerapan AI berjalan sesuai prinsip akuntabilitas, pengawasan manusia, dan keandalan. Pertama, memperjelas peran dan tanggung jawab SDM dalam penggunaan AI.

ank perlu menetapkan tanggung jawab yang jelas bagi pegawai yang terlibat dalam penggunaan maupun pengelolaan teknologi tersebut. "Untuk memenuhi prinsip accountability, pegawai juga harus bertanggung jawab atas penerapan dan pemantauan sistem AI serta memastikan penggunaannya tetap memenuhi standar etika dan ketentuan yang berlaku," ujar Deden dalam diskusi bersama LPPI, Jumat (25/9).

Selanjutnya, OJK menekankan pentingnya human oversight atau pengawasan manusia dalam pengoperasian AI. Keterlibatan SDM bank maupun pihak terkait yang memiliki kompetensi diperlukan untuk memastikan AI bekerja sesuai tujuan dan etika yang diharapkan.

Deden mengatakan pengawasan tersebut perlu didukung pelatihan dan keterampilan pengambilan keputusan serta etika yang memadai.

Terakhir, bank perlu memastikan reliability atau keandalan sistem AI. Menurut Deden, pegawai harus memahami bagaimana bias dapat muncul dalam model AI dan cara memastikan sistem tetap andal. Pelatihan, kata dia, perlu diarahkan pada kemampuan mendeteksi dan memitigasi bias dalam keputusan yang didorong oleh AI.

"Untuk mengimplementasikan prinsip-prinsip tersebut, pendorongan tata kelolaan AI menekankan pentingnya pendekatan implementasi yang komprehensif yang mencakup manajemen risiko, tata kelolaan, dan audit AI," katanya.

Risiko AI Terhadap Bank

Deden mengatakan risiko AI tidak hanya berada pada tingkat model, tetapi juga dapat berdampak terhadap ketahanan operasional bank dan stabilitas sistem keuangan secara lebih luas.

Pada tingkat model, risiko yang perlu diperhatikan antara lain deepfake yang dapat dimanfaatkan untuk meningkatkan fraud dan social engineering. Selain itu, terdapat persoalan black box yang membuat keputusan AI sulit dijelaskan serta AI bias yang berpotensi menghasilkan keputusan tidak adil.

Dari sisi keamanan siber, bank juga perlu mewaspadai risiko data poisoning, adversarial attacks, dan pencurian model AI.

Risiko tersebut dapat menjadi lebih kompleks ketika penerapan AI melibatkan pihak ketiga. Ketergantungan terhadap penyedia teknologi dapat meningkat, sementara konsentrasi pasar pada sejumlah pemain dominan juga berpotensi menimbulkan risiko tersendiri.

Penggunaan teknologi dan model AI yang semakin luas juga dapat mendorong perilaku yang lebih seragam di antara institusi keuangan.

"Oleh karena itu, pengembangan AI di industri perbankan perlu diimbangi dengan tata kelola, pengawasan, dan manajemen risiko yang memadai, agar manfaat inovasi dapat diperoleh tanpa mengorbankan stabilitas dan kepercayaan terhadap sistem keuangan," kata Deden.

Salah satu bank yang  mulai mengadopsi AI yakni BTN. Human Capital Strategy Division Head BTN Aldo Bimantoro menyampaikan, perusahaan  tidak memperbolehkan penggunaan shadow AI untuk proses bisnis perusahaan. "Bank sangat strict. Kami tidak memperbolehkan untuk proses bisnis di internal perusahaan itu menggunakan shadow AI," ujar Aldo.

Ia menjelaskan bahwa pekerjaan, dokumen, dan aktivitas kantor harus menggunakan AI yang disediakan secara eksklusif oleh perusahaan melalui penyedia yang bekerja sama dengan BTN.

Menurut Aldo, penyedia AI tersebut telah terintegrasi dengan proses bisnis perusahaan, termasuk dengan Teams. Ia juga menyebut adanya perjanjian non-disclosure agreement (NDA) dan kebutuhan agar proses bisnis penyedia atau vendor AI dapat diaudit.

Aldo menambahkan, perkembangan AI selanjutnya mengarah pada kolaborasi antara manusia dan teknologi. Ia menggambarkan konsep digital coworker sebagai mitra kerja digital yang dapat melakukan perencanaan, pekerjaan kompleks dengan beberapa tahapan, dan tugas lintas sistem untuk mencapai tujuan yang ditentukan.

Namun, menurut Aldo, pengendalian teknologi tetap menjadi kunci. Peran manusia dapat bergeser dari human in the loop menjadi human on the loop, yakni memastikan adanya batasan pengamanan (guardrails), memantau hasil kerja AI, dan melakukan eskalasi ketika hasilnya tidak sesuai dengan masukan, etika, atau tujuan yang ditetapkan.