Beijing Panggil Alibaba, Tencent, Xiaomi soal Teknologi Deepfake

Otoritas terkait keamanan internet di Tiongkok, Cyberspace Administration of China (CAC) memanggil 11 perusahaan teknologi termasuk Alibaba, Tencent, induk TikTok hingga Xiaomi terkait deepfake. Teknologi ini dinilai bisa membahayakan masyarakat.

Deepfake adalah bentuk manipulasi suara dan wajah seseorang dalam bentuk video dengan mengandalkan deep learning. Teknologi deep learning merupakan bagian dari kecerdasan buatan atau artificial intelligence (AI), yang secara umum mampu mengolah audio dan video.

Salah satu aplikasi berbasis deepfake yang ramai digunakan oleh warganet, termasuk di Indonesia, yakni MyHeritage. Platform ini dapat membuat foto orang yang sudah meninggal terlihat lebih hidup.

Dengan maraknya penggunaan deepfake, CAC pun memanggil 11 perusahaan Tiongkok untuk mendalami perkembangan teknologi ini. "Perusahaan harus melakukan penilaian keamanan sendiri dan menyerahkan laporan kepada pemerintah," kata CAC dikutip dari The Economic Times, Kamis (18/3).

CAC menilai, deepfake dapat membahayakan data pribadi pengguna. Pada akhirnya, ini akan berbahaya bagi keamanan nasional dan stabilitas sosial, serta bisa melanggar hak orang lain.

Sebenarnya, CAC sudah mencanangkan aturan yang menjadikan deepfake ilegal pada 2019. Regulasi ini mengatur tentang pendistribusian konten digital melalui video atau audio yang menggunakan AI dan virtual reality (VR). 

Penasihat teknologi Nina Schick mengatakan, penggunaan video deepfake dapat membahayakan masyarakat awam yang sulit membedakan konten palsu dan tidak. Ini menjadi sarana efektif untuk menyebarkan hoaks.

“Penggunaan (deepfake) yang sangat luas, yang kami ketahui, yakni untuk pornografi non-konsensual terhadap wanita," ujarnya BBC Internasional, tahun lalu (2/9/2020). "Deepfake ada di mana-mana dalam waktu sekitar tiga hingga lima tahun ke depan. Jadi kami perlu mengembangkan alat ini.”

Peneliti senior AI di Universitas Oxford Prof Sandra Wachter mengatakan bahwa teknologi deepfake semakin maju. "Harus ada undang-undang untuk mencegah hal-hal buruk dan berbahaya seperti ujaran kebencian dan pornografi," kata Sandra dikutip BBC Internasional, dua pekan lalu (8/3).

Dikutip dari CBS, warga AS di di Pennsylvania, Raffaela Spone memanfaatkan deepfake untuk menyingkirkan saingan putrinya dari kelompok cheerleader sekolah. Ia memfitnah murid tersebut dengan foto dan video rekayasa, yang menggambarkan pesaing putrinya itu sebagai gadis nakal, sering bermabuk-mabukan, merokok, dan lainnya.

Raffaela Spone menunjukkan video palsu itu ke pelatih cheerleader untuk menyingkirkan pesaing putrinya itu. Namun, berdasarkan penyelidikan polisi, video ini menggunakan deepfake.

Di AS, Facebook dan Twitter melarang penggunaan deepfake pada konten. Tahun ini, Facebook menghapus video yang diduga berbasis deepfake.

"Itu kemungkinan menyesatkan seseorang dan dibuat oleh kecerdasan buatan atau algoritme machine learning," demikian dikutip dari The Verge, Januari lalu (7/1).

Pada tahun lalu, Twitter juga mengumumkan perubahan kebijakan seputar unggahan yang dimanipulasi, termasuk deepfake. Perusahaan akan menghapus konten apabila ditemukan kemungkinan manipulasi yang menyebabkan bahaya serius.