Bocoran Aturan AI yang Segera Terbit: Label, MBG, Tiga Tingkat Risiko

Pembahasan Peraturan Presiden tentang Peta Jalan Artificial Intelligence atau Perpres AI Nasional dan Perpres Etika AI telah memasuki tahap akhir penyusunan. Regulasi ini akan menjadi landasan pengembangan AI di Indonesia sekaligus mengatur prinsip-prinsip tata kelola untuk meminimalkan risiko penggunaan teknologi tersebut.

“Sekarang dalam pembahasan tahap akhir,” kata Wakil Menteri Komunikasi dan Digital (Komdigi) Angga Raka Prabowo dalam siaran langsung konferensi pers secara daring dari Cina usai Indonesia menjadi salah satu negara pendiri World Artificial Intelligence Cooperation Organization (WAICO), Jumat (17/7).

Setelah kepastian perpres ini muncul, Kementerian Komdigi mengungkap sejumlah hal yang akan diatur dalam kedua perpres terkait akal imitasi itu.

Wakil Menteri Komdigi Nezar Patria mengatakan perpres tersebut nantinya tidak hanya untuk mendorong inovasi. Namun juga tetap memastikan teknlogi tersebut berkembang secara aman, bertanggung jawab, dan memberikan manfaat bagi masyarakat.

Berikut Bocoran Isi Perpres AI

• Penggunaan AI Berpusat pada Manusia

Nezar mengatakan pilar pertama yang disiapkan pemerintah adalah Human-Centered AI atau AI yang berpusat pada manusia. “Prinsip ini menegaskan bahwa AI harus memperkuat kapasitas manusia, bukan menggantikannya," kata Nezar dalam pernyataan tertulis, dikutip Jumat (7/8).

Ia menyebut pemerintah akan memastikan setiap keputusan yang berdampak besar tetap berada dalam pengawasan manusia. Dengan adanya aturan penggunaan AI, nantinya setiap algoritma yang memengaruhi publik dapat dijelaskan dan diaudit. Selain itu, pengembangan AI akan memperhatikan konteks sosial dan budaya Indonesia.

Pada Maret, Nezar pernah menyampaikan bahwa Indonesia mendorong pendekatan human-in-the-loop sebagai standar utama. Model ini memastikan setiap sistem AI tetap berada dalam pengawasan manusia, terutama pada sektor yang berdampak besar seperti layanan publik, keamanan, dan ekonomi digital.

Indonesia juga telah menetapkan sepuluh prinsip utama tata kelola AI. Nezar mengatakan prinsip ini menjadi standar dalam setiap pengembangan teknologi, mulai dari perlindungan data pribadi, sistem transparansi, hingga jaminan keadilan dan inklusivitas.

• Penggunaan AI Berbasis Risiko

Penerapan tata kelola berbasis risiko. Dalam pendekatan ini, Nezar mengatakan sistem AI yang memiliki tingkat risiko tinggi akan diwajibkan menjalani penilaian risiko sejak tahap perancangan.

Dalam Perpres Etika AI diatur prinsip moral yang berfungsi sebagai landasan yang memastikan proses pengembangan, penyelenggaraan, dan pemanfaatan AI degan nilai etika yang ditetapkan.

Merujuk pada paparan Komdigi dalam acara IDE Katadata Future Forum 2026 pada April, disebutkan bahwa pengembangan, penyelenggaraan, dan pemanfaatan AI akan berpedoman pada nilai Pancasila, UUD NRI 1945, peraturan perundang-undangan, serta etika AI. Nilai etika AI yakni inklusivitas, kemanusiaan, keamanan, aksesibilitas, transparansi, kredibilitas dan akuntabilitas, pelindungan data pribadi, pembangunan dan lingkungan berkelanjutan, serta kekayaan intelektual.

Perpres Etika AI juga membagi risiko AI dalam tiga kategori, di antaranya:

1. Risiko rendah
2. Risiko tinggi, yakni apabila AI menggunakan data pribadi bersifat spesifik sesuai ketentuan perundang-undangan, dan/atau berdampak signifikan terhadap Hak Asasi Manusia (HAM), keselamatan, layanan publik penting, dan berpotensi menimbulkan kerugian serius bagi individual dan kelompok tertentu apabila terjadi kesalahan, penyalahgunaan, dan/atau kegagalan sistem.
3. Risiko yang tidak dapat diterima, yakni apabila AI dianggap mengancam dan membahayakan keselamatan pengguna, HAM, dan/atau berdampak luas terhadap keamanan publik dan stabilitas nasional.

Etika AI itu harus dipatuhi oleh pengguna, pelaku sektor, kementerian/lembaga, dan pemangku kepentingan lainnya.

"Untuk sektor-sektor strategis seperti kesehatan dan keuangan, mitigasi risiko akan disusun sesuai karakteristik masing-masing sektor," kata Nezar dalam keterangan pers, Jumat (7/8).

• Transparansi Penggunaan AI

Perpres Etika AI mengatur aspek perlindungan di antaranya tata kelola dan kontrol dari, oleh, dan untuk manusia; keamanan keandalan sistem dan kecakapan teknis; transparansi dan akuntabilitas; mitigasi kerugian dan penyalahgunaan; keadilan dan kecukupan; kebermanfaatan dan pelindungan terhadap manusia, lingkungan, dan negara; inklusivitas dan keragaman; serta, penghargaan terhadap karya cipta dan budaya.

Pemerintah juga akan menerapkan kewajiban transparansi yang mencakup:

• Pengungkapan model AI
• Pemberitahuan kepada pengguna
• Label konten yang dihasilkan AI

Komdigi Akan Rilis Aturan Teknis AI: Atur Label

Setelah kedua Perpres AI itu terbit, akan ada Peraturan Menteri Komdigi yang mengatur teknis, termasuk sanksinya. Misalnya, apabila penyelenggara sistem elektronik, penyedia platform, atau pengguna tidak menyematkan label pada konten buatan AI, maka dapat dikenai sanksi mulai dari pemblokiran akun atau laman, hingga pidana dengan merujuk pada UU yang berlaku.

Hal itu sejalan dengan UU Dasar AI yang diperkenalkan Korea Selatan pada Januari (22/1). Perusahaan yang tidak memberikan label AI pada konten yang dibuat menggunakan platform akal imitasi, berpotensi didenda 30 juta won atau Rp 347 juta (kurs Rp 11,58 per won).

UU Dasar AI mewajibkan semua konten yang dihasilkan AI diberi label khusus, sehingga pengguna dapat membedakan antara konten buatan manusia dan AI. Perusahaan harus memberitahukan sebelumnya kepada pengguna bila produk atau layanan memakai AI berdampak tinggi atau AI generatif. Untuk AI berdampak tinggi—seperti di sektor nuklir, air minum, transportasi, kesehatan, atau keuangan—harus ada pengawasan manusia yang jelas.

Operator AI, termasuk entitas asing, juga harus menampilkan informasi waktu pembuatan konten, termasuk penggunaan teknologi deepfake. Kegagalan mematuhi ketentuan ini dapat mengakibatkan sanksi administratif.

UU AI Korea Selatan juga mewajibkan perusahaan memastikan adanya pengawasan manusia untuk hal yang disebut sebagai ‘AI berdampak tinggi’, yang mencakup bidang-bidang seperti keselamatan nuklir, produksi air minum, transportasi, perawatan kesehatan, dan penggunaan keuangan seperti evaluasi kredit dan penyaringan pinjaman.

AI untuk MBG dan Cek Kesehatan Gratis

Perpres Peta jalan AI akan mengatur 10 sektor yang didorong menggunakan AI, karena sejalan dengan fokus pemerintahan Prabowo, yaitu ketahanan pangan; kesehatan; pendidikan; ekonomi dan keuangan; reformasi birokrasi; politik, hukum dan keamanan; energi, sumber daya, dan lingkungan; perumahan; transportasi, logistik, dan infrastruktur; serta ekonomi kreatif.

Regulasi itu juga menetapkan pemanfaatan AI untuk delapan program pemerintah yakni Makan Bergizi Gratis (MBG), swasembada pangan, skrining TBC, cek kesehatan gratis, pemetaan wilayah rawan stunting, koperasi merah putih, pembelajaran adaptif di sekolah rakyat, serta deteksi hoaks dan disinformasi.

Menurut Nezar, pendekatan perpres AI merupakan upaya pemerintah membangun ekosistem kecerdasan buatan yang mampu menjaga keseimbangan antara percepatan inovasi dan perlindungan kepentingan publik.

Ia menilai, tata kelola harus hadir sebelum risiko berkembang lebih besar seiring meningkatnya otonomi AI. "Yang lebih penting adalah komitmen seluruh pemangku kepentingan agar tidak pernah membiarkan kecepatan inovasi melampaui komitmen kita terhadap akuntabilitas," ujarnya.

Waspada AI Bisa Bertindak Sendiri

Pemerintah menyatakan, akal imitasi akan memasuki fase baru ketika tidak lagi sekadar menjawab pertanyaan, tetapi mampu merencanakan, mengambil keputusan, dan mengeksekusi tindakan secara mandiri.

Oleh karena itu, pemerintah menilai perubahan tersebut menuntut tata kelola yang mampu mengimbangi kecepatan inovasi. Dengan begitu, setiap pemanfaatan AI tetap akuntabel, transparan, dan berpihak pada kepentingan publik.

"Ketika AI tidak lagi sekadar menjawab, namun mulai mengambil tindakan, bagaimana kita meminta pertanggungjawaban saat tindakan tersebut salah?" katanya.

Nezar mengatakan, kesalahan AI tidak lagi berhenti pada jawaban yang keliru. Ini melainkan dapat berdampak langsung terhadap transaksi, perubahan data, proses persetujuan, maupun layanan publik yang dijalankan secara otomatis.

"Tantangannya bukan semata-mata berasal dari kemampuan AI, melainkan dari kesenjangan antara kecepatan perkembangan teknologi dengan kemampuan tata kelola untuk mengimbanginya. Kondisi itu berpotensi memunculkan krisis etika dan akuntabilitas apabila tidak diantisipasi sejak dini," ujarnya.

Sovereign AI

Dalam saat bersamaan, pemerintah mulai menyiapkan fondasi sovereign AI atau AI berdaulat sebagai upaya mengurangi ketergantungan Indonesia terhadap penguasaan teknologi oleh negara-negara besar. Langkah tersebut ditempuh melalui pembangunan ekosistem AI nasional yang mencakup model AI lokal, infrastruktur komputasi, hingga penguatan talenta digital.

Nezar mengatakan penguasaan AI tidak lagi sekadar berkaitan dengan inovasi teknologi, tetapi telah menjadi faktor strategis yang menentukan posisi suatu negara dalam rantai pasok teknologi global.

Menurutnya, banyak negara dengan kekuatan ekonomi menengah mulai mendorong pengembangan sovereign AI agar tidak bergantung pada segelintir negara yang menguasai teknologi AI. "Negara-negara yang di tengah, di middle power ini, mencoba mempromosikan sovereign AI karena pada akhirnya penguasaan teknologi AI ini akan jadi choke point buat negara-negara yang besar ini untuk menjaga dominasi mereka," kata Nezar.

Ia menilai Indonesia perlu membangun ekosistem AI secara menyeluruh atau full stack. Menurutnya, kemandirian AI tidak hanya bergantung pada kemampuan mengembangkan model AI, tetapi juga ditopang oleh infrastruktur dasar, mulai dari pasokan listrik, air, kapasitas komputasi berbasis GPU, chip semikonduktor, platform, hingga aplikasi.

"Kalau membangun sovereign AI, semua lapisannya harus dibangun. Mulai dari infrastruktur dasar sampai aplikasi, sehingga kita memiliki ekosistem yang utuh," ujarnya.

Selain infrastruktur, Nezar menilai Indonesia memiliki modal berupa talenta digital yang mampu bersaing di tingkat global. Tantangannya, kata dia, adalah memastikan para pengembang dan peneliti memperoleh akses terhadap infrastruktur AI serta pengetahuan teknis yang memadai.

“Kalau soal digital talent tidak masalah sepanjang anak-anak muda dan talent-talent kita dapat kesempatan. Mereka bisa mengakses infrastruktur AI, terus ada ilmunya, dan kreativitas serta inovasi-inovasi. Saya yakin di bidang compute cluster itu kita bisa bersaing,” ujarnya.

Nezar juga menyoroti posisi strategis Indonesia sebagai pemilik sumber daya mineral kritis yang menjadi bahan baku industri AI dan semikonduktor. Menurutnya, komoditas tersebut dapat menjadi modal penting untuk memperkuat posisi Indonesia dalam rantai pasok global.

"Kita punya sumber daya alam yang sekarang sedang diperebutkan untuk infrastruktur AI, yaitu critical minerals, sehingga harus ada langkah-langkah bagaimana dia bisa kita secure agar menjadi salah satu bargaining power kita di dalam global supply chain," katanya.

Langkah Indonesia membangun sovereign AI sejalan dengan tren global. Uni Eropa, misalnya, meluncurkan European Technological Sovereignty Package untuk memperkuat kapasitas AI, cloud, dan semikonduktor.

Sementara itu, India juga menjalankan IndiaAI Mission dengan membangun infrastruktur GPU nasional dan mengembangkan foundation model lokal.