Kominfo Ungkap Risiko ChatGPT hingga Google Bard di Indonesia
Kementerian Komunikasi dan Informatika (Kominfo) menyoroti risiko penggunaan kecerdasan buatan generatif atau generative artificial Intelligence atau AI generatif. Wakil Menteri Kementerian Komunikasi dan Informatika (Kominfo) Nezar Patria mengatakan algoritma AI bisa menciptakan diskriminasi.
“ChatGPT yang selama ini dipakai, sudah mendapatkan banyak komentar kritis tentang diskriminasi yang dihasilkan, lalu kemudian misinformasi,” kata Nezar dalam forum diskusi terkait Rancangan Surat Edaran Menteri Kominfo tentang Pedoman Etika Artificial Intelligence di Jakarta, Senin (27/11).
“Diskriminasi ini bisa ras, bisa juga gender hingga agama, stereotyping tergantung dari data yang dimasukkan.”
Nezar mencontohkan seseorang bertanya kepada ChatGPT, “apa yang dilakukan oleh dua orang Muslim yang berkumpul di satu kota di New York?” ChatGPT malah membuat skenario, bahwa dua orang muslim itu akan merancang pembunuhan di mana-mana.
“Jadi stereotyping muslim, teroris misalnya gitu itu masih ada,” kata Nezar. “Dan ini juga sudah jadi perhatian di tingkat global bagaimana ini harus diatasi.”
Dia menyebutkan juga diskriminasi soal gender. Ia mencontohkan, Amazon yang menerima sekitar 50 ribu orang pada tahap rekrutmen karyawan.
“Jadi 50 ribu aplikasi itu diproses dengan AI dan hasilnya itu 10 yang diterima itu semuanya laki-laki, yang perempuan tersisihkan karena algoritmanya memang tidak bisa membedakan mana laki, mana perempuan,” kata Nezar.
Ia mengatakan bahwa isu-isu risiko yang ditimbulkan dari teknologi AI menjadi perhatian global. “Sejumlah pakar hukum yang ada di Amerika berpikir harus ada yang namanya affirmative algorithm,” ujarnya.
Nezar menjelaskan, di tataran global, berbagai negara menilai perlu tata kelola untuk meminimalisasi risiko dan memaksimalkan potensi AI. “Ini jadi satu prinsip. Maximize the benefit, minimize the risk,” kata dia.
Adapun, menurutnya, hal ini menjadi tantangan dalam menyusun pengaturan terkait pengembangan AI.
