Teknologi AI Dikhawatirkan Menimbulkan Informasi Salah
Kominfo atau Kementerian Komunikasi dan Informatika serta Asosiasi Media Siber Indonesia alias AMSI khawatir konten yang dihasilkan oleh teknologi AI atau kecerdasan buatan menimbulkan informasi yang salah atau misinformasi.
Wakil Menteri Kominfo Nezar Patria mengatakan, salah satu dampak negatif dari artificial intelligence atau AI yakni halusinasi yang bisa memicu bias, disinformasi, dan informasi toxic atau menyesatkan.
Ia khawatir jika masyarakat bergantung pada konten AI ketimbang jurnalis. “Disinformasi atau misinformasi sangat mungkin terjadi,” ujar Nezar dalam acara Indonesia Digital Conference 2023 bertajuk ‘Artificial Intelligence for Business Transformation: Tantangan Etik, Inovasi, Produktivitas, dan Daya Saing di berbagai Sektor’ yang digelar secara virtual, Selasa (22/8).
Nezar mengatakan, teknologi AI memang bisa berdampak positif terhadap cara kerja jurnalis seperti:
- Pengenalan gambar untuk penandaan otomatis
- Menyusun ringkasan
- Penulisan informasi verbal menjadi teks,
- Pengelolaan distribusi tugas konten media sosial
- Memberikan personalisasi konten meningkatkan engagement pembaca
Namun ada beberapa isu yang perlu diperhatikan terkait perkembangan teknologi AI atau kecerdasan buatan, di antaranya:
1. Potensi konten yang salah dan misinformasi
Teknologi Al perlu belajar terus menerus. Oleh karena itu, Nezar khawatir konten yang dibuat oleh kecerdasan buatan bisa menimbulkan kesalahan hasil analisis yang mengakibatkan misinformasi atau kekeliruan pemberian informasi tanpa niatan jahat.
2. Privasi dan kerahasiaan
Teknologi Al memerlukan akses data dan informasi untuk memberikan hasil analisis. Data dan informasi yang tersimpan dapat melanggar perlindungan privasi dan kerahasiaan suatu entitas.
3. Disinformasi, toxicity dan ancaman berbasis siber
Kemampuan Al mengolah informasi dalam bentuk lain berupa gambar dan/atau video yang seolah nyata, sehingga dapat menimbulkan disinformasi, lingkungan yang toxic atau merugikan, dan ancaman siber.
4. Tantangan perlindungan hak cipta
Akses terhadap informasi dan data oleh Al berpotensi melanggar hak cipta pihak lain. Pembuatan karya derivatif dari ciptaan milik pihak lain tanpa izin merupakan pelanggaran hak cipta.
5. 'Warisan' bias dalam implementasi AI
Informasi dan data yang diproses oleh teknologi Al merupakan buatan manusia dalam hal ini jurnalis, sehingga memiliki bias. Akibatnya hasil olahan informasi dan data Al juga berpotensi mengandung bias bahkan bersifat diskriminatif.
6. Pemahaman nilai kemanusiaan dan tantangan perintah
Al memerlukan kemampuan menerjemahkan perintah pengguna, supaya dapat bermanfaat secara produktif. Selain pemberian perintah yang jelas, batasan bantuan Al yang bersifat harmless dan helpfull perlu diatur.
“Saya kira kata kunci hubungan teknologi AI dengan jurnalisme yakni bagaimana memerangi bias,” kata Nezar. “Selain ChatGPT sangat membantu dalam pekerjaan, tetapi juga memberikan informasi yang menyesatkan.”
Laporan institute for human centered AI Stanford University pada 2023 merujuk data AIAAIC alias AI, Algorithmic, and Automation Incidents and Controversies, insiden terkait Al naik 26 kali lipat sejak 2012. Salah satunya, deepfake Presiden Ukraina tahun lalu.
Ketua umum AMSI Wenseslaus Manggut mengatakan, kehadiran AI dianggap sebagai human killer khususnya di industri jurnalistik. Menurutnya, jurnalisme berperan penting di tengah tren AI.
Alasannya, AI mengumpulkan informasi dan data dari konten di internet. “Kalau menyampaikan informasi yang salah ke mesin atau AI, maka akan memberikan misinformasi kepada publik,” ujarnya.
“Apa yang ditulis oleh AI, benar atau tidaknya, sedikit banyak dipengaruhi oleh apa yang diproduksi oleh publisher,” Wenseslaus menambahkan.