Ini Biang Keladi Foto Taylor Swift AI Tersebar di Internet

KOMPAS.com - Belakangan, penyanyi kondang Taylor Swift menjadi korban pemalsuan foto (deepfake) lewat teknologi kecerdasan buatan (AI).

Aneka foto Taylor Swift AI yang tersebar itu kabarnya merupakan foto berbau pornografi, yang tentunya tidak dibuat dan diizinkan oleh Taylor Swift untuk diunggah di internet.

Kini, laporan terbaru yang diunggah firma riset perilaku konsumen di media sosial, yaitu Graphika menguak bahwa gambar-gambar Taylor Swift AI tersebut ternyata berasal dari platform berbagi gambar populer yang dijuluki 4chan.

Dari 4chan, barulah gambar ini tersebar di internet, seperti di grup Telegram, media sosial X (dahulu Twitter), dan lain sebagainya.

Baca juga: Lagu Taylor Swift, Drake, dan Olivia Rodrigo Lenyap dari TikTok, Ini Penyebabnya

Di 4chan, Graphika menyebut ada sebuah forum yang menggelar tantangan harian pada para pesertanya. Tantangan tersebut sederhananya merupakan lomba membuat atau memanipulasi gambar pesohor, supaya tampil unik menggunakan AI.

Menurut Graphika, alat-alat AI atau AI Image Generator yang dipakai pengguna 4chan, terutama yang mengikuti forum manipulasi gambar pesohor di atas, meliputi Bing Image Creator, Microsoft Designer, hingga DALL-E milik OpenAI.

"Sejumlah pengguna 4chan tampaknya termotivasi untuk membuat gambar AI deepfake yang bagus dari para pesohor, supaya bisa lebih indah dari hasil mainstream," ujar Graphika.

"Mereka juga membagikan sejumlah tips supaya alat-alat AI tersebut tak mendeteksi kata-kata pornografi, sehingga gambar-gambar AI dari kalimat atau prompt yang dimasukkan tidak diblokir," tambah Graphika.

Selain Taylor Swift, forum di 4chan itu juga sebenarnya menampilkan konten deepfake atau AI dari artis lainnya. Bahkan, gambar Taylor Swift AI bukan merupakan gambar yang paling banyak didiskusikan di forum tersebut.

Namun yang jelas, hal ini menandakan bahwa banyak korban deepfake AI yang berkeliaran di internet, salah satunya di forum 4chan tadi.

Terkait pemakaian DALL-E seperti disebutkan di atas, OpenAI memastikan bahwa gambar-gambar deepfake Taylor Swift AI yang ramai di internet tidak diproduksi menggunakan Image Generator milik mereka.

Baca juga: X Twitter Blokir Pencarian Taylor Swift, Buntut Kasus Deepfake AI

Sementara itu, Microsoft mengatakan pihaknya masih melakukan penelusuran apakah produk mereka, seperti Bing Image Creator, dipakai untuk memproduksi gambar Taylor Swift AI atau tidak.

X, sebagai platform yang dipakai untuk menyebarkan gambar Taylor Swift tadi, memblokir pencarian dengan kata kunci "Taylor Swift" ketika gambar ini viral internet, sebagaimana dirangkum KompasTekno dari RollingStones, Kamis (8/2/2024).

Pantauan KompasTekno, Rabu siang WIB, pencarian di X dengan kata kunci "Taylor Swift" atau sejenisnya tak menampilkan hasil apapun alias error. Artinya, pemblokiran ini masih berlangsung hingga saat ini.

Siapkan gugatan

Seperti diwartakan sebelumya, pihak Taylor Swift tidak tinggal diam melihat gambar pornografi buatan AI tersebut tersebar di internet.

Pasalnya, ia dan tim hukumnya disebut berencana menyiapkan gugatan terhadap pihak-pihak yang mengunggah foto deepfake AI yang menampilkan gambarnya, terutama yang berbau pornografi.

Rencananya, gugatan tersebut akan dilayangkan kepada platform-platform yang menyerbarkan konten pornografi yang menampilkan Taylor Swift, bukan ke orang yang mengunggah konten tersebut.

Baca juga: Menilik Teknologi Deepfake di Balik Video Diduga Mirip Nagita Slavina

"Taylor Swift, keluarga, serta teman dan penggemarnya tentunya sangat marah melihat konten-konten tak pantas ini berkeliaran di internet. Ia, begitu juga semua perempuan, seharusnya punya privasi dan hak untuk dilindungi," kata orang yang dekat dengan Taylor Swift, seperti diwartakan KompasTekno beberapa hari lalu.

"Penyebaran konten deepfake pornografi buatan AI ini harus dihentikan, dan harus ada hukum yang mengatur soal peredaran konten tersebut," tambah sumber yang dekat dengan Taylor Swift tadi.

Belum bisa dipastikan apakah gugatan ini akan benar-benar dilayangkan tim hukum Taylor Swift atau tidak. Namun apabila iya, ini merupakan aksi nyata Taylor Swift untuk memerangi konten-konten deepfake buatan AI yang biasanya menampilkan artis kenamaan.

Sekadar informasi, banyak laporan di internet yang menyebut bahwa tak sedikit konten deepfake AI yang menampilkan perempuan dan anak-anak, dan konten tersebut berbau pornografi dan tak pantas dilihat khalayak.

Karena tersebar dengan begitu cepat, peredaran konten ini tidak bisa dihentikan dengan mudah, terlebih belum ada hukum konkret yang mengatur soal konten deepfake AI tersebut.

Kabarnya, sejumlah penegak hukum di seluruh dunia mendesak adanya hukum federal, alias hukum sejenis yang berlaku di seluruh dunia, yang mengatur peredaran konten deepfake AI di internet ini.

Hukum seperti ini, menurut para ahli, sangat diperlukan, apalagi kini teknologi AI mudah digunakan dan sudah dipakai orang banyak. Namun saat ini, hukum sejenis itu tampaknya belum ada atau belum bisa mengatur peredaran konten deepfake di internet.