Baca berita tanpa iklan. Gabung Kompas.com+

Facebook Bohong soal Jumlah Konten "Hate Speech" yang Dihapus?

Kompas.com - 19/10/2021, 07:39 WIB
Galuh Putri Riyanto,
Reska K. Nistanto

Tim Redaksi

KOMPAS.com - Facebook diduga berbohong soal jumlah konten hate speech/ujaran kebencian yang berhasil dihapus dari platformnya.

Facebook sendiri menggunakan kombinasi teknologi keceradasan buatan (AI) dan review manusia untuk memerangi ujaran kebencian.

Facebook bahkan mengklaim hampir semua (98 persen) konten hate speech yang dihapus berhasil dideteksi lebih dulu oleh teknologi AI Facebook, sebelum dilaporkan oleh pengguna.

Namun angka tersebut belakangan diragukan validitasnya, sebab bocoran dokumen justru mengungkap bahwa hanya sebagian kecil konten hate speech yang berhasil dideteksi oleh AI Facebook.

Hanya hapus sebagian kecil konten hate speech

Setelah menganalisis dokumen internal Facebook yang bocor, The Wall Street Journal menemukan bahwa hanya sebagian kecil konten hate speech yang berhasil dihapus Facebook.

Baca juga: Daftar Organisasi Berbahaya Versi Facebook Bocor, Ada Nama dari Indonesia

Dalam sebuah dokumen, insinyur senior Facebook yang bertanggung jawab memberantas konten berbahaya (termasuk ujaran kebencian), mengakui bahwa Facebook tidak akan benar-benar dapat memerangi konten-konten seperti itu.

Sebab, pada catatan di pertengahan 2019, insinyur itu memperkirakan deteksi otomatis dengan teknologi AI milik perusahaan hanya mampu menghapus 2 persen dari konten berisi ujaran kebencian di platformnya.

"Perkiraan terbaru menunjukkan bahwa kecuali ada perubahan besar dalam strategi memerangi hate speech, akan sangat sulit untuk meningkatkan persentase tersebut melampaui 10-20 persen dalam jangka pendek-menengah," tulisnya.

Pada Maret 2021 ini, kesimpulan yang sama diungkap oleh karyawan Facebook lainnya, yang mana teknologi AI Facebook diestimasikan hanya berhasil menghapus 3-5 persen tayangan ujaran kebencian di Facebook.

Bila dikalkulasi, persentase tersebut hanya mewakili 0,6 persen dari semua konten yang melanggar kebijakan Facebook di kategori kekerasan dan hasutan.

Baca juga: Begini Cara Facebook Memberantas Konten Berisi Ujaran Kebencian

Dengan kata lain, sebenarnya teknologi AI Facebook ini tidak benar-benar efektif bisa memerangi konten ujaran kebencian di Facebook.

Gantikan reviewer manusia dengan AI

Sebelumnya, CEO Facebook Mark Zuckerberg berharap platformnya dapat menggunakan AI untuk mendeteksi "sebagian besar konten bermasalah" (seperti ujaran kekerasan, penghinaan, ajakan mengucilkan, dsb) pada akhir 2019 lalu.

Menurut dokumen internal, Facebook juga rela memangkas waktu reviewer manusia dengan teknologi AI untuk menghemat biaya operasi.

Ketika itu, setiap tahunnya, Facebook perlu mengeluarkan 104 juta dollar AS per tahun untuk membayar reviwer manusia. Reviewer manusia ini adalah staf yang tugasnya meninjau/menganalisis keluhan konten ujaran kebencian yang dilaporkan langsung oleh pengguna.

Makanya ketika reviewer manusia dikurangi, ini secara otomatis juga mengurangi jumlah keluhan yang berasal langsung dari pengguna Facebook soal konten hate speech.

Dengan begitu, pembasmian konten hate speech di Facebook meyoritas bergantung pada teknologi AI sebagai pendeteksi otomatis konten hate speech, sebagaimana dihimpun KompasTekno dari The Wall Street Journal, Selasa (19/10/2021).

Jadi laporan keberhasilan penghapusan konten hate speech di Facebook kini didominasi oleh teknologi AI saja. Padahal di sisi lain, insyinyur dan karywan Facebook menyebutkan bahwa teknologi AI ini hanya bisa menghapus sebagian kecil dari konten hate speech yang ada di platform.

Tanggapan Facebook

Ilustrasi ujaran kebencianShutterstock Ilustrasi ujaran kebencian
Pihak Facebook sendiri sudah memberiakn tanggapannya terkait tudingan AI Facebook yang ternyata tidak efektif untuk membasmi konten hate speech di Facebook.

Dalam sebuah postingan di blog resmi, Wakil Presiden Integritas Facebook, Guy Rosen mengatakan bahwa narasi berdasarkan laporan internal Facebook yang bocor itu tidak benar.

Baca juga: Jack Dorsey Akui Twitter Belum Temukan Cara Basmi Hoaks dan Ujaran Kebencian

Menurut Rosen, pekerjaan membasmi konten hate speech di Facebook adalah pekerjaan yang dilakukan secara kontinu selama beberapa tahun. Namun yang jelas, kata dia, baik Facebook, pengguna, dan pengiklan tidak ingin melihat konten hate speech di Facebook.

"Jadi, meskipun kami tidak akan pernah sempurna, tim kami terus bekerja untuk mengembangkan sistem kami, mengidentifikasi masalah, dan membangun solusi (untuk hate speech ini)," tulis Rosen.

Sejauh ini, ia mengungkapkan, persentase frekuensi konten hate speech yang dilihat pengguna secara keseluruhan sudah menyusut hingga 50 persen dalam tiga kuartal terakhir.

Menurut laporan Community Standards Enforcement Facebook untuk kuartal II-2021 yang dikutip Rosen, frekuensi (insiden atau prevalensi) konten hate speech di Facebook kini dilaporkan 5 konten hate speech dari setiap 10.000 konten.

Angka prevalensi konten hate speech di Facebook turun hampir 50 persen selama tiga kuartal terakhir.Facebook Angka prevalensi konten hate speech di Facebook turun hampir 50 persen selama tiga kuartal terakhir.
Angka prevalensi tersebut tercatat menurun hampir 50 persen dalam kurun waktu tiga kuartal saja.

Pada kuartal III-2020, prevalensi konten hate speech adalah 10 konten hate speech terdeteksi dari setiap 10.000 konten yang ada di Facebook.

Baca juga: Facebook Hapus 25 Juta Konten Ujaran Kebencian dalam 3 Bulan

"Kami percaya prevalensi adalah metrik yang paling penting untuk digunakan, karena menunjukkan seberapa banyak konten ujaran kebencian yang sebenarnya terlihat di Facebook," tulis Rosen.

Rosen berpendapat bahwa berfokus pada penghapusan konten hate speech saja adalah “cara yang salah untuk melihat bagaimana Facebook memerangi ujaran kebencian.”

Dia mengatakan teknologi untuk menghapus konten ujaran kebencian hanyalah salah satu metode yang digunakan Facebook untuk melawannya.

“Kami harus yakin bahwa ada sesuatu yang merupakan ujaran kebencian sebelum kami menghapusnya,” kata Rosen.

Simak breaking news dan berita pilihan kami langsung di ponselmu. Pilih saluran andalanmu akses berita Kompas.com WhatsApp Channel : https://www.whatsapp.com/channel/0029VaFPbedBPzjZrk13HO3D. Pastikan kamu sudah install aplikasi WhatsApp ya.

Video rekomendasi
Video lainnya


Baca berita tanpa iklan. Gabung Kompas.com+
Baca berita tanpa iklan. Gabung Kompas.com+
Baca berita tanpa iklan. Gabung Kompas.com+
komentar di artikel lainnya
Baca berita tanpa iklan. Gabung Kompas.com+
Close Ads
Lengkapi Profil
Lengkapi Profil

Segera lengkapi data dirimu untuk ikutan program #JernihBerkomentar.

Bagikan artikel ini melalui
Oke
Login untuk memaksimalkan pengalaman mengakses Kompas.com