Mantan data scientist Facebook Sophie Zhang mengungkap kebobrokan perusahaan soal mengatasi konten ujaran kebencian dan hoaks, terutama di negara berkembang. Sebelumnya, induk Instagram ini juga dilaporkan oleh mantan karyawan Frances Haugen mengenai hal serupa.
Zhang mengatakan Facebook memecat dirinya tahun lalu setelah tiga tahun bekerja. Zhang menyampaikan, ia dipecat karena masalah kinerja.
Ketika dipecat oleh Facebook, ia menulis memo dan memerinci apa yang dilakukan oleh perusahaan selama ini. Memo itu pertama kali dilaporkan tahun lalu oleh BuzzFeed News dan kemudian menjadi sumber serangkaian laporan The Guardian.
Menurut memo tersebut, Facebook tidak berbuat cukup dan terkesan membiarkan konten ujaran kebencian serta hoaks berseliweran di platform, terutama di negara berkembang.
"Saya telah menemukan beberapa upaya terang-terangan oleh pemerintah nasional asing menyalahgunakan platform dengan menyebarkan ujaran kebencian dan hoaks dalam skala besar untuk menyesatkan warga negara mereka sendiri," kata Zhang dikutip dari Independent, Selasa (12/10).
Zhang mengatakan, Facebook juga cenderung membiarkan penyalahgunaan platform di negara-negara di luar AS. Padahal, sekitar 90% pengguna aktif bulanan Facebook berada di luar AS dan Kanada.
Ia mengaku bersedia untuk bersaksi di depan Kongres tentang kebijakan Facebook itu. Dia mengatakan telah menyerahkan dokumentasi tentang perusahaan ke badan penegak hukum AS.
"Saya juga telah memberikan dokumentasi terperinci mengenai potensi pelanggaran pidana kepada penegak hukum AS," katanya.
Juru bicara Facebook menolak semua tuduhan Zhang. Ia mengatakan bahwa perusahaan menginvestasikan banyak dana untuk keselamatan dan keamanan.
Facebook juga menghapus lebih dari 150 jaringan yang berusaha memanipulasi berita politik di luar AS sejak 2017. "Rekam jejak menunjukkan bahwa kami menindak penyalahgunaan di luar negeri dengan intensitas yang sama yang kami terapkan di AS," kata juru bicara Facebook.
Beberapa minggu terakhir, Facebook dikritik menyusul laporan dari Wall Street Journal berdasarkan dokumen internal yang diberikan oleh Haugen. Laporan ini menunjukkan bahwa Instagram dapat memiliki efek negatif bagi kesehatan mental anak muda.
Haugen bersaksi di depan Kongres pada pekan lalu (5/10) mengenai laporan tersebut. Ia juga mengungkapkan bahwa raksasa teknologi itu memanfaatkan algoritme untuk menghasilkan banyak konten ujaran kebencian yang disukai oleh pengguna.
Ia mengklaim, algoritme yang diluncurkan pada 2018 itu mengatur konten yang dilihat oleh pengguna pada platform yang dikelola Facebook. Algoritme akan mendesain sedemikian rupa guna mendorong keterlibatan orang di platform tersebut.
Berdasarkan analisis perusahaan, keterlibatan yang paling banyak terjadi yakni menanamkan rasa takut dan benci pada pengguna. Menurut Haugen, seiring waktu, algoritme yang berjalan di Facebook juga mengarah pada konten kemarahan dan kebencian.
Konten-konten yang banyak dibagikan oleh pengguna antara lain informasi yang salah, toksisitas, dan konten kekerasan.
Di depan publik, Facebook acap kali mengatakan akan menginvestasikan dana untuk menjaga konten dari ujaran kebencian. Namun, Haugen tidak meyakini pernyataan itu. "Facebook lebih memilih untuk mengoptimalkan kepentingan sendiri, seperti menghasilkan lebih banyak uang," katanya, pekan lalu (4/10).
Haugen juga yakin bahwa CEO Facebook Mark Zuckerberg membiarkan konten ujaran kebencian berseliweran di platform. "Ia (Zuckerberg) tidak pernah membuat platform kebencian, tetapi dia telah membiarkan pilihan itu dibuat," katanya.
Menurutnya, Facebook dan Zuckerberg membiarkan konten ujaran kebencian berseliweran di platform karena perusahaan akan mendapatkan untung. "Konten yang penuh kebencian dan polarisasi akan mendapatkan lebih banyak distribusi dan lebih banyak jangkauan," katanya.
Mark Zuckerberg juga membantah pernyataan Haugen. Ia mengatakan tidak masuk akal bagi perusahaan yang mengandalkan iklan untuk mendorong konten yang membuat orang marah untuk menghasilkan keuntungan.