Dokumen Rahasia Bocor, Meta AI Diizinkan Bicara Sensual ke Anak-anak

Dokumen internal induk Instagram, Meta terkait Meta AI bocor ke publik. Isinya menunjukkan perusahaan memperbolehkan chatbot AI berbicara romantis dan sensual dengan pengguna anak-anak.

Pedoman komunitas Meta AI yang tertera pada dokumen itu juga mengizinkan pembuatan informasi medis palsu dan membuat pernyataan rasis, termasuk menyatakan bahwa orang kulit hitam ‘lebih bodoh’ daripada orang kulit putih.

Reuters yang pertama kali mengungkapkan isi dokumen internal Meta tersebut. Induk usaha Facebook itu mengonfirmasi keaslian dokumen berjudul GenAI: Standar Risiko Konten itu, yang disusun oleh tim hukum, kebijakan publik, teknik, serta kepala etika perusahaan. 

Namun, kini Meta menghapus bagian yang menyatakan chatbot diperbolehkan menggoda atau bermain peran romantis dengan anak-anak.

"Contoh dan catatan yang dimaksud, salah dan tidak konsisten dengan kebijakan kami, dan telah dihapus," kata Juru bicara Meta Andy Stone, dikutip dari Reuters, Kamis (14/8). Ia menambahkan, perusahaan memiliki kebijakan yang melarang seksualitas anak-anak dan permainan peran seksual.

Meski demikian, Stone mengakui penegakan aturan di lapangan tidak selalu konsisten. Meta menolak membagikan versi revisi dokumen tersebut.

Dalam dokumen yang bocor, disebutkan bahwa Meta AI diizinkan menggambarkan anak berdasarkan daya tarik misalnya, menyebut ‘bentuk tubuh Anda adalah sebuah karya seni’, atau mengatakan kepada anak berusia delapan tahun bahwa ‘meski tanpa baju, setiap inci dari Anda adalah sebuah mahakarya’.

Namun, Meta AI dilarang menggambarkan anak di bawah 13 tahun dalam konteks yang menunjukkan daya tarik seksual eksplisit.

Selain isu seksualitas anak, dokumen itu memuat ketentuan yang memungkinkan chatbot membuat pernyataan merendahkan terhadap kelompok berdasarkan ras. Salah satu contoh yang disebutkan adalah membuat paragraf yang berpendapat bahwa orang kulit hitam lebih bodoh daripada orang kulit putih.

Meta AI juga diperbolehkan membuat konten fiktif atau menyesatkan selama mencantumkan bahwa informasi itu tidak benar. Misalnya, menuduh seorang bangsawan Inggris yang masih hidup mengidap penyakit menular seksual, selama diberi klaim bahwa pernyataan itu palsu.

Pedoman itu turut mengatur pembuatan konten visual, termasuk batasan gambar tokoh publik. Beberapa permintaan gambar seksual eksplisit tokoh seperti Taylor Swift harus ditolak, sementara permintaan yang lebih samar dapat dialihkan misalnya, dengan menggambar Swift memegang ikan besar di dadanya sebagai pengganti gambar telanjang.

Isu kekerasan juga dibahas. AI diperbolehkan membuat gambar anak-anak berkelahi atau orang dewasa dipukul, selama tidak menampilkan gore alias gambar sadis atau kematian.

Asisten profesor di Fakultas Hukum Stanford Evelyn Douek, yang mempelajari regulasi pidato perusahaan teknologi, menilai isi pedoman itu memunculkan dilema hukum dan etika.  “Secara hukum jawabannya belum jelas, tetapi secara moral dan teknis, ini jelas pertanyaan yang berbeda,” ujarnya.