Tiga Risiko AI yang Paling Dikhawatirkan di Dunia: Hoaks, PHK hingga Data Bocor

Setidaknya ada risiko terkait kecerdasan buatan atau AI yang menjadi kekhawatiran paling tinggi di Indonesia, yakni misinformasi dan hoaks, dampak negatif seperti penipuan hingga Pemutusan Hubungan Kerja (PHK), serta ketidakamanan siber.

Direktur Jenderal Ekosistem Digital Kementerian Komunikasi dan Digital atau Komdigi Edwin Hidayat mengungkapkan hasil laporan Risiko Global 2026 dari WEF, mengenai risiko global.

Konfrontasi geoekonomi menjadi yang pertama. Disusul konflik antarnegara, cuaca ekstrem, inequality, serta misinformasi dan disinformasi.

Khusus terkait AI, ada tiga yakni misinformasi dan disinformasi; dampak negatif AI; serta, ketidakamanan siber seperti data bocor. Laporan ini berdasarkan survei terhadap lebih dari 1.300 pakar di seluruh dunia.

Dampak negatif AI yang dimaksud beragam, seperti penipuan, deepfake hingga PHK. Data Challenger, Gray & Christmas menunjukkan, perusahaan-perusahaan di Amerika Serikat (AS) mengumumkan 60.620 PHK pada Maret atau naik 25% dibandingkan Februari 48.307, yang didorong oleh pemanfaatan akal imitasi.

“Kalau di Indonesia, berdasarkan survei, tiga yang paling menakutkan,” kata Edwin dalam acara diskusi IDE Katadata Future Forum 2026 bertajuk ‘Menuju Visi Kecerdasan Artifisial: Penguatan Tata Kelola AI’ di Jakarta, Rabu (15/4).

Pertama, inequality masyarakat, dengan jurang antara kaum miskin dan kaum kaya yang semakin lebar. “The educated one, those who have more privilege compared to those who are not (orang-orang terdidik, mereka yang memiliki lebih banyak hak istimewa dibandingkan dengan mereka yang tidak). Oleh karena itu, yang pintar semakin pintar, dan yang kaya semakin kaya” ia menambahkan.

Kedua, keamanan siber. “Orang yang uneducated, ketika diberi (alat berbasis) AI dan lainnya, ia menyematkan KTP maupun kartu keluarga. Dia tanya ke ChatGPT,” kata Edwin.

Terakhir, disinformasi, fitnah dan kebencian.

Sementara itu, Country Director WhaTap Indonesia Malaysia Andy Phan mengungkapkan sederet tantangan yang perlu diwaspadai dalam mengadopsi AI di ASEAN. Pertama, kurangnya visibilitas.

“Banyak perusahaan sebenarnya menerapkan AI di atas sistem yang tidak mereka pahami. Tanpa wawasan real time ke dalam aplikasi, infrastruktur, basis data, terutama ke dalam pengalaman pengguna,” kata Andy dalam acara yang sama pada sesi berbeda.

Kedua, lingkungan yang terfragmentasi. Menurut dia, saat ini ada begitu banyak sistem yang dijalankan perusahaan, campuran dari sistem lama, multi-cloud, microservices, dan AI berada di atas kompleksitas ini.

“Tanpa data yang terpadu, akan sulit untuk memberikan wawasan yang bermakna,” ujarnya.

Ketiga, celah eksekusi. Ia mengatakan, setiap manajemen selalu memiliki minat yang sangat tinggi untuk mengadopsi AI. Namun mengubah strategi AI menjadi operasional nyata tetap menjadi tantangan.

Oleh karena itu, Andy mengatakan WhaTap berusaha memberikan solusi untuk mengatasi semua tantangan tersebut. WhaTap merupakan perusahaan startup teknologi asal Korea Selatan yang didirikan sejak Juli 2015 dengan spesialis solusi monitoring dan observabilitas IT terintegrasi.

“Kami menyediakan platform observabilitas secara end-to-end yang menghubungkan semua lapisan aplikasi, infrastruktur, basis data, dan pengalaman pengguna ke dalam satu tampilan terpadu,” katanya.

Andy menilai, hal ini menciptakan sumber data yang andal dan fondasi data bagi AI untuk memberikan wawasan, tidak hanya pada satu sinyal tetapi ke akar masalah yang sebenarnya. Satu sinyal akan menunjukkan akar masalah itu sendiri dan memberikan pengambilan keputusan yang lebih cepat untuk memperbaiki masalah tersebut.

“Jadi, daripada AI menjadi sesuatu yang eksperimental, ia sebenarnya menjadi sesuatu yang memberikan produktivitas nyata yang terukur,” ujar Andy.

Meski begitu, Andy mengakui saat ini kekhawatiran terbesar terhadap AI yakni kepercayaan. “Apakah saya percaya pada apa yang diberikan AI kepada saya? Di WhaTap, solusi kami memiliki tiga prinsip utama untuk memastikan akurasi dan keandalan hasil dari alat AI yang kami masukkan ke dalam solusi kami,” katanya.

Pertama, AI harus didasarkan pada data yang nyata dan berkualitas tinggi. Untuk mencapainya, hasil tidak akan dibangun dengan bergantung pada data generik dan eksternal.

“Jadi data yang digunakan model yang kami bangun semuanya bergantung pada alat observabilitas internal kami di berbagai lapisan di seluruh infrastruktur, basis data, aplikasi. Semua ini kami kumpulkan dan kami berikan hasilnya kepada pengguna,” ujar Andy.

Kedua, WhaTap menekankan korelasi dibandingkan analisis yang terisolasi. WhaTap mengorelasikan AI tidak bergantung pada satu metrik saja namun ke seluruh ekosistem.

“Jadi dari satu sinyal, kami sebenarnya menganalisis hingga ke akar masalah dan mencari tahu siapa pembuat masalahnya dan segera memberikan peringatan,” katanya.

Terakhir, WhaTap tidak akan menempatkan otomatisasi penuh dengan ketergantungan penuh pada AI. AI hanya akan memberikan rekomendasi, penilaian risiko, dan juga pola-pola.

Oleh karena itu, Andy mengatakan risiko yang perlu diwaspadai salah satunya akurasi. Lalu yang kedua otomatisasi berlebih tanpa kontrol. Selanjutnya ketiga adalah kurangnya akuntabilitas.

“Inilah tiga risiko utama jika kita sepenuhnya bergantung pada AI. Jadi bagaimana kami memitigasi, kami membangun fondasi pengumpulan data yang kuat sehingga AI hanya akan dibangun berdasarkan data yang kami berikan kepada mereka sehingga akan akurat” ujar Andy.