Dinilai Berbahaya, Cina Rampungkan Aturan Deepfake Tahun Ini
Pemerintah Cina berencana membuat aturan yang mewajibkan perusahaan teknologi memverifikasi identitas pengguna sebelum menggunakan teknologi deepfake dan kecerdasan buatan alias artificial intelligence (AI). Beijing menilai, deepfake bisa berbahaya.
Deepfake adalah bentuk manipulasi suara dan wajah seseorang dalam bentuk video dengan mengandalkan deep learning. Teknologi deep learning merupakan bagian dari AI, yang secara umum mampu mengolah audio dan video.
Otoritas terkait keamanan internet di Tiongkok, Cyberspace Administration of China (CAC) akan merilis aturan itu dalam beberapa bulan mendatang. Regulasi bakal melalui tahap konsultasi publik hingga 28 Februari, dan versi finalnya bisa berubah.
Melalui aturan itu, CAC berjanji akan mengatur teknologi yang menghasilkan atau memanipulasi teks, gambar, audio atau video menggunakan deepfake. Di bawah rancangan peraturan ini, penyedia layanan teknologi yang menggunakan deepfake harus memverifikasi identitas pengguna sebelum memberi mereka akses ke produk yang relevan.
"Perusahaan juga diharapkan menghormati moralitas, etika sosial, dan mengikuti arah politik yang benar dalam menggunakan deepfake," kata CAC dikutip dari South China Morning Post (SCMP), Sabtu (29/1).
CAC membuat aturan itu karena menilai teknologi deepfake bisa berbahaya. Ia pun sempat memanggil 11 perusahaan Cina termasuk Alibaba dan Tencent untuk mendalami perkembangan teknologi ini.
"Perusahaan harus melakukan penilaian keamanan sendiri dan menyerahkan laporan kepada pemerintah," kata CAC dikutip dari The Economic Times, awal tahun lalu (18/3/2021).
Penasihat teknologi Nina Schick mengatakan, penggunaan video deepfake dapat membahayakan masyarakat awam yang sulit membedakan konten palsu dan tidak. Ini menjadi sarana efektif untuk menyebarkan hoaks.
“Penggunaan (deepfake) yang sangat luas, yang kami ketahui, yakni untuk pornografi non-konsensual terhadap wanita," ujarnya BBC Internasional, pada 2020. "Deepfake ada di mana-mana dalam waktu sekitar tiga hingga lima tahun ke depan. Jadi kami perlu mengembangkan alat ini.”
Sedangkan aturan soal deepfake menjadi salah satu regulasi anyar pemerintah Cina untuk perusahaan teknologi. Sebelumnya, Beijing meluncurkan sejumlah aturan yang menyasar raksasa teknologi sejak akhir 2020, di antaranya:
- Pengendalian algoritme
- Aturan anti-monopoli yang baru
- Aturan terkait kredit mikro berbasis digital
- Membatasi anak bermain gim online
- Memperketat aturan konten di game online hingga video on-demand (VoD). Salah satunya melarang konten yang menampilkan pria bernampilan feminin.
- Melarang fan ‘mengejar bintang’ secara tidak rasional di media sosial
- UU Keamanan data yang baru
- Redistribusi kekayaan