Chatbot Character AI dan Meta Dituduh Berikan Terapi Mental Tanpa Lisensi

Koalisi organisasi kesehatan mental mendesak pemerintah Amerika Serikat menyelidiki Meta dan Character.AI atas dugaan penyalahgunaan chatbot sebagai terapis tanpa lisensi.

Kelompok tersebut mengajukan gugatan resmi ke Komisi Perdagangan Federal (FTC), Jaksa Agung, serta Dewan Lisensi Kesehatan Mental di seluruh 50 negara bagian dan Distrik Columbia, Amerika Serikat.

Gugatan tersebut menyebutkan perusahaan-perusahaan AI diduga mempromosikan chatbot yang tidak berlisensi. Klaim itu menyesatkan karena menyebut sebagai profesional kesehatan mental.

Beberapa chatbot bahkan diduga menyamar sebagai terapis berlisensi tanpa memiliki pelatihan, pendidikan, atau pengawasan yang sesuai. Koalisi menilai praktek ini sebagai bentuk kedokteran tanpa izin yang berpotensi membahayakan publik.

Contoh yang disorot termasuk chatbot Character.AI yang mengklaim sebagai “terapis CBT berlisensi,” dengan total 46 juta interaksi.

Sedangkan Meta AI Studio memiliki bot “Therapy: your trusted ear, always here” yang mencatat dua juta percakapan, serta sejumlah bot terapi lainnya dengan ratusan ribu interaksi.

Gugatan ini dipimpin oleh Federasi Konsumen Amerika (CFA) dan didukung oleh AI Now Institute, Pusat Demokrasi Digital, Akal Sehat, serta sejumlah organisasi hak konsumen dan penyandang disabilitas.

Mereka juga menuduh kedua perusahaan melanggar kebijakan layanan mereka sendiri, yang menyatakan karakter AI tidak boleh digunakan untuk memberi nasihat medis atau hukum.

Selain itu, janji kerahasiaan dari chatbot juga dipertanyakan. Meski menyatakan percakapan pengguna akan dirahasiakan, kebijakan privasi perusahaan justru mengizinkan data pengguna digunakan untuk pelatihan AI, periklanan, bahkan dijual ke pihak ketiga.

Di AS, isu ini telah menarik perhatian Senat. Senator Cory Booker dan tiga senator Demokrat lainnya mengirim surat kepada Meta untuk meminta penjelasan atas klaim bot yang menyebut diri sebagai terapis berlisensi.