Facebook Bohong soal Jumlah Konten "Hate Speech" yang Dihapus?

Facebook sendiri menggunakan kombinasi teknologi keceradasan buatan (AI) dan review manusia untuk memerangi ujaran kebencian.

Facebook bahkan mengklaim hampir semua (98 persen) konten hate speech yang dihapus berhasil dideteksi lebih dulu oleh teknologi AI Facebook, sebelum dilaporkan oleh pengguna.

Namun angka tersebut belakangan diragukan validitasnya, sebab bocoran dokumen justru mengungkap bahwa hanya sebagian kecil konten hate speech yang berhasil dideteksi oleh AI Facebook.

Hanya hapus sebagian kecil konten hate speech

Setelah menganalisis dokumen internal Facebook yang bocor, The Wall Street Journal menemukan bahwa hanya sebagian kecil konten hate speech yang berhasil dihapus Facebook.

Dalam sebuah dokumen, insinyur senior Facebook yang bertanggung jawab memberantas konten berbahaya (termasuk ujaran kebencian), mengakui bahwa Facebook tidak akan benar-benar dapat memerangi konten-konten seperti itu.

Sebab, pada catatan di pertengahan 2019, insinyur itu memperkirakan deteksi otomatis dengan teknologi AI milik perusahaan hanya mampu menghapus 2 persen dari konten berisi ujaran kebencian di platformnya.

"Perkiraan terbaru menunjukkan bahwa kecuali ada perubahan besar dalam strategi memerangi hate speech, akan sangat sulit untuk meningkatkan persentase tersebut melampaui 10-20 persen dalam jangka pendek-menengah," tulisnya.

Pada Maret 2021 ini, kesimpulan yang sama diungkap oleh karyawan Facebook lainnya, yang mana teknologi AI Facebook diestimasikan hanya berhasil menghapus 3-5 persen tayangan ujaran kebencian di Facebook.

Bila dikalkulasi, persentase tersebut hanya mewakili 0,6 persen dari semua konten yang melanggar kebijakan Facebook di kategori kekerasan dan hasutan.

Dengan kata lain, sebenarnya teknologi AI Facebook ini tidak benar-benar efektif bisa memerangi konten ujaran kebencian di Facebook.

Gantikan reviewer manusia dengan AI

Sebelumnya, CEO Facebook Mark Zuckerberg berharap platformnya dapat menggunakan AI untuk mendeteksi "sebagian besar konten bermasalah" (seperti ujaran kekerasan, penghinaan, ajakan mengucilkan, dsb) pada akhir 2019 lalu.

Menurut dokumen internal, Facebook juga rela memangkas waktu reviewer manusia dengan teknologi AI untuk menghemat biaya operasi.

Ketika itu, setiap tahunnya, Facebook perlu mengeluarkan 104 juta dollar AS per tahun untuk membayar reviwer manusia. Reviewer manusia ini adalah staf yang tugasnya meninjau/menganalisis keluhan konten ujaran kebencian yang dilaporkan langsung oleh pengguna.

Makanya ketika reviewer manusia dikurangi, ini secara otomatis juga mengurangi jumlah keluhan yang berasal langsung dari pengguna Facebook soal konten hate speech.

Dengan begitu, pembasmian konten hate speech di Facebook meyoritas bergantung pada teknologi AI sebagai pendeteksi otomatis konten hate speech, sebagaimana dihimpun KompasTekno dari The Wall Street Journal, Selasa (19/10/2021).

Jadi laporan keberhasilan penghapusan konten hate speech di Facebook kini didominasi oleh teknologi AI saja. Padahal di sisi lain, insyinyur dan karywan Facebook menyebutkan bahwa teknologi AI ini hanya bisa menghapus sebagian kecil dari konten hate speech yang ada di platform.

Dalam sebuah postingan di blog resmi, Wakil Presiden Integritas Facebook, Guy Rosen mengatakan bahwa narasi berdasarkan laporan internal Facebook yang bocor itu tidak benar.

Menurut Rosen, pekerjaan membasmi konten hate speech di Facebook adalah pekerjaan yang dilakukan secara kontinu selama beberapa tahun. Namun yang jelas, kata dia, baik Facebook, pengguna, dan pengiklan tidak ingin melihat konten hate speech di Facebook.

"Jadi, meskipun kami tidak akan pernah sempurna, tim kami terus bekerja untuk mengembangkan sistem kami, mengidentifikasi masalah, dan membangun solusi (untuk hate speech ini)," tulis Rosen.

Sejauh ini, ia mengungkapkan, persentase frekuensi konten hate speech yang dilihat pengguna secara keseluruhan sudah menyusut hingga 50 persen dalam tiga kuartal terakhir.

Menurut laporan Community Standards Enforcement Facebook untuk kuartal II-2021 yang dikutip Rosen, frekuensi (insiden atau prevalensi) konten hate speech di Facebook kini dilaporkan 5 konten hate speech dari setiap 10.000 konten.

Pada kuartal III-2020, prevalensi konten hate speech adalah 10 konten hate speech terdeteksi dari setiap 10.000 konten yang ada di Facebook.

"Kami percaya prevalensi adalah metrik yang paling penting untuk digunakan, karena menunjukkan seberapa banyak konten ujaran kebencian yang sebenarnya terlihat di Facebook," tulis Rosen.

Rosen berpendapat bahwa berfokus pada penghapusan konten hate speech saja adalah “cara yang salah untuk melihat bagaimana Facebook memerangi ujaran kebencian.”

Dia mengatakan teknologi untuk menghapus konten ujaran kebencian hanyalah salah satu metode yang digunakan Facebook untuk melawannya.

“Kami harus yakin bahwa ada sesuatu yang merupakan ujaran kebencian sebelum kami menghapusnya,” kata Rosen.