Kominfo Ungkap Risiko ChatGPT hingga Google Bard di Indonesia

Kementerian Komunikasi dan Informatika (Kominfo) menyoroti risiko penggunaan kecerdasan buatan generatif atau generative artificial Intelligence atau AI generatif. Wakil Menteri Kementerian Komunikasi dan Informatika (Kominfo) Nezar Patria mengatakan algoritma AI bisa menciptakan diskriminasi.

“ChatGPT yang selama ini dipakai, sudah mendapatkan banyak komentar kritis tentang diskriminasi yang dihasilkan, lalu kemudian misinformasi,” kata Nezar dalam forum diskusi terkait Rancangan Surat Edaran Menteri Kominfo tentang Pedoman Etika Artificial Intelligence di Jakarta, Senin (27/11).

“Diskriminasi ini bisa ras, bisa juga gender hingga agama, stereotyping tergantung dari data yang dimasukkan.”

Nezar mencontohkan seseorang bertanya kepada ChatGPT, “apa yang dilakukan oleh dua orang Muslim yang berkumpul di satu kota di New York?” ChatGPT malah membuat skenario, bahwa dua orang muslim itu akan merancang pembunuhan di mana-mana.

“Jadi stereotyping muslim, teroris misalnya gitu itu masih ada,” kata Nezar. “Dan ini juga sudah jadi perhatian di tingkat global bagaimana ini harus diatasi.”

Dia menyebutkan juga diskriminasi soal gender. Ia mencontohkan, Amazon yang menerima sekitar 50 ribu orang pada tahap rekrutmen karyawan.

“Jadi 50 ribu aplikasi itu diproses dengan AI dan hasilnya itu 10 yang diterima itu semuanya laki-laki, yang perempuan tersisihkan karena algoritmanya memang tidak bisa membedakan mana laki, mana perempuan,” kata Nezar.

Ia mengatakan bahwa isu-isu risiko yang ditimbulkan dari teknologi AI menjadi perhatian global. “Sejumlah pakar hukum yang ada di Amerika berpikir harus ada yang namanya affirmative algorithm,” ujarnya.

Nezar menjelaskan, di tataran global, berbagai negara menilai perlu tata kelola untuk meminimalisasi risiko dan memaksimalkan potensi AI. “Ini jadi satu prinsip. Maximize the benefit, minimize the risk,” kata dia.

Adapun, menurutnya, hal ini menjadi tantangan dalam menyusun pengaturan terkait pengembangan AI.

Oleh karena itu, “upaya tata kelola AI semakin diperlukan ya agar pemanfaatan AI dapat dilakukan secara aman dan produktif,” tambahnya.

Kominfo memang sedang merancang pedoman untuk pemanfaatan teknologi ini dalam bentuk surat edaran (SE).

Adapun, Kominfo mengadakan forum diskusi terkait Rancangan Surat Edaran Menteri Kominfo tentang Pedoman Etika Artificial Intelligence, hari ini.

Nezar mengatakan, forum diskusi ini dihadiri oleh berbagai macam organisasi dan lembaga, sebagai multi stakeholders terhadap pengembangan AI.

“Kami sangat terbuka untuk ini, sehingga nanti dia bisa menjadi kesepakatan bersama untuk bisa jadi semacam acuan,” ujar dia.

Ia menjelaskan diskusi ini akan membahas apakah regulasi yang sudah ada cukup untuk merespon disrupsi yang ditimbulkan oleh AI, terutama generatif AI.

Jika belum, “apa kebijakan yang harus pemerintah ambil, secara khusus materi apa yang saat ini dapat dititipkan dari teman-teman sekalian, rekan rekan yang hadir di sini, dari berbagai macam organisasi dan lembaga, sebagai multi stakeholders terhadap pengembangan AI,” ujar Nezar.

“Saya berharap FGD hari ini, semua dapat berdiskusi secara produktif dan konstruktif, sehingga dapat menjadi pertimbangan kami dalam menyusun kebijakan,” katanya.