Google Klaim AI Baru Bisa Identifikasi Emosi, Pakar Peringatkan Potensi Risiko

Google memperkenalkan model AI terbaru, PaliGemma 2, yang memiliki kemampuan menganalisis gambar, menggambarkan tindakan, dan mengidentifikasi emosi dalam sebuah adegan. Teknologi ini dirancang untuk memberikan penjelasan lebih terperinci dan kontekstual dibandingkan sekadar mengenali objek.

Menurut Google, model ini mampu melampaui identifikasi objek dengan menggambarkan tindakan, emosi, serta narasi dalam sebuah adegan. Teknologi ini disebut-sebut membuka peluang baru dalam analisis berbasis gambar.

Namun, kemampuan PaliGemma 2 mengidentifikasi emosi menuai kekhawatiran dari para ahli. Sandra Wachter, profesor etika data di Oxford Internet Institute, menganggap teknologi semacam ini tidak dapat diandalkan secara ilmiah. 

“Sejak lama, deteksi emosi dicoba untuk berbagai keperluan seperti pelatihan hingga pencegahan kecelakaan, tapi landasan ilmiahnya masih dipertanyakan,” kata Sandra seperti dikutip Senin (9/12). 

Sebagian besar teknologi deteksi emosi didasarkan pada teori Paul Ekman tentang enam emosi dasar. Namun, penelitian terbaru menunjukkan adanya perbedaan signifikan dalam ekspresi emosional antarbudaya, yang menantang keandalan model AI ini.

Mike Cook, peneliti di King’s College London, menambahkan bahwa meski beberapa penanda emosi generik bisa dikenali, memahami emosi manusia sepenuhnya tetap sulit karena sifatnya yang kompleks. Algoritma seringkali menghadapi bias, termasuk dalam interpretasi emosi berdasarkan ras.

Sebuah penelitian dari MIT pada 2020 menemukan bahwa model analisis wajah cenderung memberikan label emosi negatif lebih banyak pada wajah orang kulit hitam dibandingkan kulit putih. Hal ini memicu kekhawatiran terkait penggunaannya dalam institusi berisiko tinggi, seperti penegakan hukum dan perekrutan.

Uni Eropa bahkan melarang penggunaan detektor emosi di sekolah dan tempat kerja, dengan alasan dampaknya pada hak privasi dan nondiskriminasi. “Jika teknologi ini didasarkan pada asumsi ilmiah yang tidak solid, risikonya bisa sangat berbahaya, terutama bagi kelompok yang terpinggirkan,” ujar Heidy Khlaaf, kepala ilmuwan AI di AI Now Institute.

Google menjelaskan komitmennya terhadap evaluasi etis dan keamanan PaliGemma 2. Meski begitu, para ahli tetap meminta kehati-hatian dalam penerapan teknologi ini, mengingat implikasi sosial yang dapat muncul.