Bos ChatGPT Dikritik karena Akan Izinkan Konten Erotis: Kami Bukan Polisi Moral

OpenAI dikritik karena berencana mengizinkan konten yang lebih luas di ChatGPT, termasuk erotis. CEO Sam Altman menyampaikan perusahaan mengambil tindakan pencegahan yang diperlukan untuk melindungi pengguna anak-anak dan remaja, sambil tetap memberikan keleluasaan bagi pengguna dewasa.

“Kami (OpenAI dan ChatGPT) bukanlah polisi moral dunia yang dipilih. Sebagaimana masyarakat membedakan batasan-batasan lain yang pantas misalnya, film dengan rating R, kami ingin melakukan hal serupa di sini,” kata Sam Altman melalui X, Kamis (16/10).

CEO OpenAI itu menjelaskan, alasan rencana mengizinkan konten dewasa di ChatGPT bertujuan memberikan kebebasan yang luas bagi pengguna.

“Kami juga sangat memperhatikan prinsip memperlakukan pengguna dewasa sebagaimana layaknya orang dewasa. Seiring semakin pentingnya AI dalam kehidupan manusia, memberikan kebebasan yang luas bagi orang-orang untuk menggunakan AI sesuai keinginan mereka,” kata dia.

Ia memastikan tidak akan mengizinkan konten yang merugikan orang lain. Ia juga memastikan akan merespons pengguna yang mengalami krisis kesehatan mental dengan tepat.

“Tanpa bersikap paternalistis, kami akan berusaha membantu pengguna mencapai tujuan jangka panjang,” kata Sam Altman.

ChatGPT Akan Izinkan Konten Erotis

OpenAI berencana mengizinkan konten yang lebih luas, termasuk erotika, di ChatGPT. Hal ini bersifat opsional atau sepanjang pengguna mengaktifkannya.

Sam Altman mengatakan konten ChatGPT sangat ketat sebelumnya, untuk mengatasi persoalan kesehatan mental. OpenAI sebelumnya digugat orang tua dari remaja yang bunuh diri usai bercakap-cakap dengan ChatGPT.

"Kami menyadari hal ini membuat platform kurang bermanfaat/menyenangkan bagi banyak pengguna yang tidak memiliki masalah kesehatan mental,” kata dia pada Selasa (14/10).

Ia mengatakan ChatGPT akan segera melonggarkan pembatasan. OpenAI akan membagi konten sesuai usia pengguna mulai Desember. “Kami akan mengizinkan lebih banyak lagi, seperti erotika untuk orang dewasa yang terverifikasi,” ujar dia.

Erotika tertulis tidak memerlukan verifikasi usia di Inggris, berdasarkan Undang-Undang Keamanan Daring. Namun, gambar pornografi, termasuk yang dihasilkan oleh AI, mengharuskan pengguna untuk membuktikan bahwa mereka berusia di atas 18 tahun.

Di AS, para kritikus mengatakan keputusan OpenAI mengizinkan erotika di ChatGPT menunjukkan perlunya lebih banyak regulasi di tingkat federal dan negara bagian.

"Bagaimana mereka akan memastikan bahwa anak-anak tidak dapat mengakses bagian ChatGPT yang khusus untuk dewasa dan menyediakan konten erotika?" kata mitra di firma hukum Boies Schiller Flexner, Jenny Kim dikutip dari BBC, Kamis (16/10).

"OpenAI, seperti kebanyakan perusahaan teknologi besar di bidang ini, hanya menggunakan manusia sebagai kelinci percobaan," ujar dia.

Pada April, TechCrunch melaporkan bahwa OpenAI mengizinkan akun yang penggunanya terdaftar sebagai anak di bawah umur, untuk menghasilkan erotika grafis.

OpenAI mengatakan saat itu, perusahaan sedang meluncurkan perbaikan untuk membatasi konten tersebut.

Survei dari lembaga nirlaba Centre for Democracy and Technology (CDT) yang diterbitkan pada Oktober, menemukan bahwa satu dari lima siswa melaporkan bahwa mereka atau seseorang yang mereka kenal memiliki hubungan romantis dengan AI.

Selain itu, survei terhadap 1.012 orang dewasa AS yang dilakukan oleh Vantage Point Counseling Services pada September, menemukan bahwa hampir satu dari tiga orang mengatakan mereka memiliki setidaknya satu hubungan intim atau romantis dengan chatbot AI.

Terkadang, hubungan manusia dan AI itu terbukti menyimpang, terutama pada orang dengan gangguan kesehatan mental.

Pada Senin (13/10), Gubernur California Gavin Newsom memveto rancangan undang-undang yang disahkan oleh badan legislatif negara bagian yang akan memblokir pengembang dari menawarkan pendamping chatbot AI kepada anak-anak, kecuali perusahaan dapat menjamin tidak akan menimbulkan perilaku berbahaya.

“Sangat penting bagi remaja untuk mempelajari cara berinteraksi dengan sistem AI secara aman,” kata Newsom.

Senat AS bulan lalu memperkenalkan undang-undang bipartisan, yang memungkinkan pengguna chatbot AI mengajukan klaim pertanggungjawaban terhadap pengembang.