Begini Cara TikTok Menangkal "Challenge" Berbahaya

KOMPAS.com - Sebagai bagian dari upayanya melindungi keamanan pengguna, TikTok berkomitmen untuk terus memberantas dan mencegah peredaran konten berisi tantangan alias challenge berbahaya di jejaring sosialnya.

Menurut survei TikTok, dari lima remaja pengguna TikTok ada lebih dari satu yang gemar membuat konten challenge berbahaya.

Namun, hanya satu dari 50 orang yang berani membuat konten yang berisiko dan berbahaya. Dari sekitar 300 orang, kurang dari satu diantara mereka yang berani melakukan challenge yang dianggap sangat berbahaya.

TikTok juga membuat survei khusus untuk mengetahui bagaimana cara pencegahan yang efektif dalam menangkal peredaran konten challenge berbahaya di platform media sosialnya. 

Survei ini melibatkan beberapa partisipan diantaranya yaitu guru, orang tua, dan 5.400 remaja berusia 13 hingga 19 tahun di sejumlah negara seperti Indonesia, Inggris, Amerika Serikat, Jerman, Australia, Italia, Brasil, Meksiko, Vietnam dan Argentina.

Agar konten challenge berbahaya tidak terus merajalela, TikTok memiliki cara untuk menangkal peredaran konten tersebut.

Mendeteksi konten yang tidak relevan dengan tagar

TikTok mengandalkan teknologi khusus yang mampu mendeteksi keberadaan konten-konten yang dianggap melanggar aturan secara otomatis.

Misalnya jika tagar #foodchallenge yang biasanya digunakan untuk konten video masak tiba-tiba dipenuhi oleh kumpulan konten challenge berbahaya. Maka, tim keamanan TikTok akan menyelidiki konten berbahaya tersebut.

"Jika kami melihat lonjakan konten terkait hashtag yang tidak relevan dan melanggar kebijakan, tim kami akan segera mencari penyebabnya," kata Alexandra Evans, Head of Safety Public Policy TikTok.

Sebagaimana dihimpun KompasTekno dari BBC, Jumat (19/11/2021), TikTok pun memiliki kebijakan untuk menghapus konten-konten yang mengandung unsur berbahaya lainnya.

"Kami siap mengambil langkah untuk mencegah konten atau perilaku yang berpotensi berbahaya," lanjut Evans.

Mencegah pengguna mencari konten challenge hoaks

Evans mengatakan bahwa perusahaan telah mengembangkan divisi baru dalam tim keamanan TikTok untuk menangani konten challenge hoaks.

Challenge hoaks sendiri didefinisikan TikTok sebagai salah satu konten berbahaya yang isinya berupa tantangan palsu. Konten ini biasanya dibuat untuk menakuti dan memberi rasa trauma sehingga berdampak negatif pada kesehatan mental.

Oleh karena itu, TikTok akan memberi label peringatan ketika pengguna mencari konten yang mengandung unsur berbahaya termasuk konten challenge hoaks.

Pengguna yang mencoba mencari konten tersebut nantinya akan diarahkan untuk mengunjungi laman Pusat Keamanan TikTok untuk mempelajari konten lebih lanjut.

"Jika ada pengguna yang mencari konten challenge palsu atau yang terkait dengan bunuh diri dan melukai diri sendiri, kami akan menampilkan halaman lain dari hasil pencarian itu," kata Evans.

Menurut hasil riset TikTok, 31 persen remaja yang mengikuti challenge hoaks meyakini bahwa tantangan itu memang berdampak negatif bagi mereka.

Sementara, 63 persen remaja yang telah mengalami dampak negatif dari challenge tersebut mengaku bahwa hoaks telah mempengaruhi kesehatan mental.

Di samping itu, tercatat bahwa 46 persen remaja yang membuat konten challenge hoaks justru mencari dukungan dan meminta saran dari orang lain.