Orang Tua Akan Bisa Blokir Akses Anak Chat AI di Instagram dan Facebook

Orang tua akan bisa memblokir akses anak ke fitur percakapan alias chat dengan AI di Instagram dan Facebook. Meta akan menerapkan kebijakan ini tahun depan.

Langkah itu disebut sebagai bagian dari upaya Meta menjaga keamanan pengguna di bawah umur dan memastikan pengalaman digital yang lebih sehat.

Nantinya, orang tua juga bisa memblokir karakter AI tertentu. Selain itu, bisa melihat topik-topik umum yang dibicarakan remaja dengan chatbot maupun asisten AI Meta, tanpa harus menonaktifkan akses AI sepenuhnya.

“Kami berkomitmen untuk menyediakan alat yang mempermudah orang tua, terutama dalam menghadapi teknologi baru seperti AI,” tulis Kepala Instagram Adam Mosseri dan Kepala AI Meta Alexandr Wang dalam unggahan blog resmi perusahaan, dikutip dari TechCrunch, Jumat (17/10). 

Fitur pengawasan baru itu akan diluncurkan pertama kali di Instagram pada awal tahun depan di Amerika Serikat, Inggris, Kanada, dan Australia, dalam bahasa Inggris.

Meta menegaskan bahwa asisten AI milik perusahaan yakni MetaAI tetap tersedia, dengan batasan konten sesuai usia, meski obrolan pribadi antara remaja dan karakter AI dimatikan.

Fitur pengawasan itu juga dibangun di atas lapisan perlindungan, berupa fitur-fitur khusus, yang sudah ada pada akun remaja. 

Perusahaan akan mengandalkan sinyal atau deteksi dari AI untuk mengidentifikasi akun yang dicurigai milik remaja, bahkan jika pengguna mengaku sebagai orang dewasa, agar tetap mendapatkan perlindungan tambahan.

Langkah baru itu diambil setelah ada laporan pada Agustus, bahwa aturan AI Meta memungkinkan terjadinya percakapan provokatif dengan pengguna di bawah umur. Selain itu, laporan pada September menunjukkan bahwa sejumlah fitur keamanan Meta di Instagram tidak berfungsi optimal atau bahkan belum tersedia sepenuhnya.

Sebagai respons, Meta menegaskan bahwa karakter AI dirancang untuk tidak membahas topik sensitif seperti bunuh diri, gangguan makan, atau tindakan menyakiti diri sendiri dengan pengguna remaja.

Selain Meta, OpenAI memperkenalkan fitur kontrol orang tua pada ChatGPT di web dan aplikasi seluler. Perusahaan menghadapi gugatan hukum dari orang tua remaja yang meninggal bunuh diri dan menuduh chatbot perusahaan memberikan saran terkait metode menyakiti diri.

Meta juga menegaskan bahwa seluruh pengalaman AI untuk remaja akan mengikuti standar rating film PG-13, guna mencegah akses terhadap konten yang mengandung kekerasan ekstrem, ketelanjangan, atau penggunaan narkoba secara eksplisit.