Begini Cara Facebook Memberantas Konten Berisi Ujaran Kebencian

KOMPAS.com - Sebagai bagian dari upayanya melindungi keamanan pengguna, Facebook berkomitmen untuk terus memberantas dan mencegah aksi perundungan (bully) dan pelecehan di jejaring sosialnya.

Sebagai upaya untuk mewujudkan tujuan ini, Content Policy Manager Facebook Manu Gummi mengatakan bahwa setiap dua minggu sekali, tim Kebijakan Konten Facebook rutin mengadakan pertemuan yang disebut Policy Forum.

Pada forum tersebut, tim Kebijakan Konten Facebook berdiskusi tentang apa yang harus dicanangkan untuk melakukan pembaruan maupun penyesuaian pada Standar Komunitas dan kebijakan konten di jejaring sosial bernuansa biru itu.

Dalam acara Hate Speech Under The Hood yang digelar secara online, Selasa (8/6/2021), Manu mengatakan Tim Kebijakan konten selalu membahas konten ujaran kebencian setiap dua minggu sekali di Policy Forum.

"Tim kami berdiskusi untuk membahas upaya-upaya lainnya, khususnya untuk mengatur kebijakan konten di Facebook," ujar Manu.

Tim Kebijakan Konten tersebar di 11 kantor Facebook di seluruh dunia. Anggotanya ada lebih dari 35.000 orang yang terdiri dari para ahli di berbagai bidang seperti terorisme, ujaran kebencian, dan keamanan anak. Facebook juga memiliki 15.000 moderator konten.

Selain tim dari Facebook sendiri, para partisipan yang tergabung dalam forum itu juga mencakup para ahli, jurnalis, dan akademisi.

"Mereka membawa para ahli dari berbagai perusahaan untuk berpartisipasi dalam Policy Forum dan dalam beberapa kesempatan, mereka juga mengikutsertakan jurnalis dan akademisi ke dalam pertemuan ini untuk mengamati kegiatan kami," ungkap Manu.

Menurut Manu, ujaran kebencian adalah salah satu hal yang kompleks dan harus segera diatasi. Meski sejumlah negara memiliki hukum terkait ujaran kebencian, namun Facebook mendefinisikan hal tersebut dengan bervariasi.

Menu menjelaskan, Facebook mendefinisikan ujaran kebencian sebagai serangan langsung terhadap hal-hal yang bersfifat personal, misalnya disabilitas, orientasi seksual, jenis kelamin, serta ujaran yang tidak manusiawi atau mengandung kekerasan.

"Definisi ini dikembangkan setelah melakukan riset eksternal yang mendalam dan konsultasi dengan ahli independen," jelas Manu.

Sementara, jenis-jenis konten yang masuk dalam kategori ujaran kebencian diantaranya seperti menyinggung ras, agama, kewarganegaraan, identitas gender, penyakit berat, kasta, etnis, pernyataan inferioritas, penghinaan, dan stereotip yang membahayakan.

Tiga tingkatan ujaran kebencian di Facebook

Facebook mengkategorikan serangan ujaran kebencian dalam tiga tingkatan, sesuai dengan standar kebijakan konten. Hate speech yang termasuk dalam tingkat 1 akan lebih diprioritaskan untuk dihapus lebih dulu, kemudian tingkat 2, lalu tingkat 3.

Rinciannya adalah sebagai berikut.

Tingkat 1:

• Ujaran kekerasan
• Perbandingan yang tidak manusiawi
• Ujaran yang tidak manusiawi
• Mengolok-olok konsep, peristiwa, atau korban kejahatan kebencian

Tingkat 2:

• Pernyataan inferioritas (fisik, mental, moral, generalisasi)
• Ekspresi penghinaan atau mengutuk

Tingkat 3:

• Ajakan untuk mengucilkan (eksplisit, politik, ekonomi, sosial)

Agar ujaran kebencian tidak terus merajalela, Facebook turut mengandalkan teknologi berbasis kecerdasan buatan (AI), untuk mendeteksi keberadaan konten-konten tersebut secara otomatis.

"Kami juga menggunakan AI untuk memprioritaskan konten yang membutuhkan peninjauan lebih seperti ujaran kebencian, setelah mempertimbangkan beberapa faktor seperti tingkat penyebaran hingga potensi pelanggaran," tutur Manu.

Sejauh ini, Facebook sendiri telah menghapus sebanyak 25,2 juta konten yang mengandung ujaran kebencian pada kuartal pertama 2021. Sekitar 96,8 persen di antaranya diidentifikasi oleh sistem berbasis AI.

Dari total 25,2 juta konten, 8,8 juta diantaranya merupakan konten yang mengandung pelecehan. Lalu 9,8 juta konten lainnya adalah konten ujaran kebencian terorganisir.

Dalam mengatasi ujaran kebencian, Facebook menggunakan dua skema teknologi AI yang disebut XLM-R (Lingual Understanding) dan WPIE (Whole Post Understanding).

XLM-R (Lingual Understanding) adalah teknologi yang membekali machine learning classifiers dalam menganalisa berbagai bahasa yang tidak umum di internet.

Sedangkan, WPIE (Whole Post Understanding) merupakan kemampuan untuk mendeteksi apakah konten dalam sebuah posting (gambar, video, teks), yang dibagikan sesuai dengan kebijakan yang berlaku atau tidak. 

"Dengan kecanggihan teknologi, kami telah mencatatkan kemajuan yang signifikan dalam mengatasi ujaran kebencian di Facebook," pungkas Manu.