Korea Selatan Terbitkan UU AI, Konten Tanpa Label AI Bisa Didenda Rp 347 Juta

Korea Selatan memperkenalkan UU Dasar AI pada Kamis (22/1) waktu setempat. Perusahaan yang tidak memberikan label AI pada konten yang dibuat menggunakan platform kecerdasan buatan, berpotensi didenda 30 juta won atau Rp 347 juta (kurs Rp 11,58 per won).

UU Dasar AI buatan Pemerintah Korea Selatan berlaku lebih cepat ketimbang UU AI Uni Eropa yang diterapkan secara bertahap hingga 2027. Hal itu membuat aturan ini menjadi regulasi terkait kecerdasan buatan pertama di dunia.

Berdasarkan UU AI Korea Selatan, perusahaan harus memastikan adanya pengawasan manusia untuk hal yang disebut sebagai ‘AI berdampak tinggi’, yang mencakup bidang-bidang seperti keselamatan nuklir, produksi air minum, transportasi, perawatan kesehatan, dan penggunaan keuangan seperti evaluasi kredit dan penyaringan pinjaman.

Aturan lain menetapkan bahwa perusahaan harus memberi tahu pengguna terlebih dahulu tentang produk atau layanan yang menggunakan AI berdampak tinggi atau generatif, dan memberikan label yang jelas ketika output yang dihasilkan AI sulit dibedakan dari kenyataan.

Kementerian Sains dan Teknologi Informasi telah menyatakan bahwa kerangka hukum tersebut dirancang untuk mempromosikan adopsi AI sambil membangun fondasi keamanan dan kepercayaan.

Rancangan UU AI disusun setelah konsultasi yang ekstensif dan perusahaan akan diberikan masa tenggang setidaknya satu tahun sebelum pihak berwenang mulai mengenakan denda administratif untuk pelanggaran.

Hal-hal yang Diatur di UU AI Korea Selatan

Label AI dan Waktu Pembuatan

Mengutip KBS World pada pekan lalu, UU AI yang diterbitkan Korea Selatan ini mewajibkan semua konten AI diberi label khusus. Dengan adanya label ini, maka sektor-sektor penting seperti energi, transportasi, dan keuangan yang dapat secara signifikan meminimalkan risiko dampak AI karena akan mempengaruhi hak atau keselamatan masyarakat.

UU ini juga mewajibkan penggunaan khusus untuk konten AI generatif. Ini berkaitan konten kecerdasan buatan yang mampu menciptakan konten baru seperti teks, gambar, dan video.

Aturan yang diterbitkan Kementerian Sains dan Teknologi Informasi Korea Selatan sudah menetapkan bahwa operator AI, termasuk entitas asing seperti Google dan OpenAI, berkewajiban untuk menjamin transparansi kepada mereka yang menggunakan produk dan layanan.

Selain itu, UU ini mewajibkan operator AI untuk secara jelas menunjukkan kapan konten tersebut dibuat, termasuk juga menggunakan teknologi deepfake.

Sanksi Denda

Reuters mengungkapkan selain pemberian label, perusahaan harus memberi tahu pengguna terlebih dahulu tentang produk atau layanan yang menggunakan AI. Khususnya jika konten itu memiliki dampak tinggi.

Pemerintah Korea Selatan menyatakan, jika terdapat pelanggaran maka sudah ada kerangka hukum yang disiapkan. Hal ini untuk membangun fondasi keamanan dan kepercayaan.

Akan diberikan masa tenggang setidaknya satu tahun sebelum pihak berwenang mulai mengenakan denda administratif untuk pelanggaran. Hukuman yang diberikan bisa sangat besar, seperti misalnya jika tidak memberikan label AI maka denda yang akan diberikan mencapai 30 juta won atau Rp 347 juta.

Besaran denda itu lebih rendah dibandingkan potensi hukuman di Uni Eropa yakni berkisar 1% dari omset global untuk pelanggaran kecil dan 7% untuk pelanggaran terkait AI berisiko tinggi.

Peran Pemerintah

UU tentang AI Korea Selatan juga membahas soal peran pemerintah di tengah perkembangan teknologi saat ini. Mengutip Straits Times,  UU ini juga menguraikan langkah dukungan yang luas. Termasuk berkaitan dengan penelitian dan pengembangan, infrastruktur data, pelatihan talenta, bantuan untuk start up, dan bantuan untuk ekspansi ke luar negeri.

Untuk mengurangi beban awal pada bisnis, Pemerintah Korea Selatan berencana untuk menerapkan masa tenggang setidaknya satu tahun. Selama masa ini, pemerintah tidak akan melakukan investigasi pencarian fakta atau menjatuhkan sanksi administratif.

Sebaliknya, fokus akan diarahkan pada konsultasi dan pendidikan. UU AI ini akan membantu perusahaan menentukan apakah sistem mereka termasuk dalam cakupan undang-undang dan bagaimana menanggapinya dengan tepat.

Kekhawatiran Startup AI di Korea Selatan

Lim Jung-wook, salah satu kepala Aliansi Startup Korea Selatan, mengatakan banyak pendiri merasa frustrasi karena detail penting dari undang-undang tersebut masih belum jelas.

"Ada sedikit rasa kesal, mengapa kita harus menjadi yang pertama melakukan ini?" kata dia dikutip dari Reuters.

Salah satu kekhawatiran kelompok itu adalah bahasa undang-undang yang tidak jelas dan perusahaan mungkin akan memilih pendekatan yang aman tetapi kurang inovatif untuk menghindari risiko regulasi.

Presiden Lee Jae Myung mendesak para pembuat kebijakan untuk mendengarkan kekhawatiran industri dan memastikan bahwa perusahaan ventura dan startup memiliki dukungan yang cukup.

"Sangat penting untuk memaksimalkan potensi industri melalui dukungan kelembagaan, sambil secara proaktif mengelola efek samping yang diantisipasi," kata Lee selama pertemuan dengan para ajudan.

Kementerian Sains dan Teknologi Informasi sedang merencanakan platform panduan dan pusat dukungan khusus untuk perusahaan selama masa tenggang.

"Selain itu, kami akan terus meninjau langkah-langkah untuk meminimalkan beban pada industri," kata seorang juru bicara, menambahkan bahwa pihak berwenang sedang mempertimbangkan untuk memperpanjang masa tenggang jika kondisi industri domestik dan luar negeri memerlukan tindakan tersebut.

Pendekatan setiap negara dalam mengatur AI berbeda-beda. AS misalnya, lebih menyukai pendekatan yang lebih ringan untuk menghindari terhambatnya inovasi lewat pedoman penggunaan kecerdasan buatan.

Lalu, Cina memperkenalkan beberapa aturan AI, bukan UU. Tiongkok mengusulkan pembentukan badan untuk mengoordinasikan regulasi global. Sedangkan di Indonesia, baru tersedia etika AI.