Ini Biang Keladi Foto Taylor Swift AI Tersebar di Internet

KOMPAS.com - Belakangan, penyanyi kondang Taylor Swift menjadi korban pemalsuan foto (deepfake) lewat teknologi kecerdasan buatan (AI).

Aneka foto Taylor Swift AI yang tersebar itu kabarnya merupakan foto berbau pornografi, yang tentunya tidak dibuat dan diizinkan oleh Taylor Swift untuk diunggah di internet.

Kini, laporan terbaru yang diunggah firma riset perilaku konsumen di media sosial, yaitu Graphika menguak bahwa gambar-gambar Taylor Swift AI tersebut ternyata berasal dari platform berbagi gambar populer yang dijuluki 4chan.

Dari 4chan, barulah gambar ini tersebar di internet, seperti di grup Telegram, media sosial X (dahulu Twitter), dan lain sebagainya.

Baca juga: Lagu Taylor Swift, Drake, dan Olivia Rodrigo Lenyap dari TikTok, Ini Penyebabnya

Di 4chan, Graphika menyebut ada sebuah forum yang menggelar tantangan harian pada para pesertanya. Tantangan tersebut sederhananya merupakan lomba membuat atau memanipulasi gambar pesohor, supaya tampil unik menggunakan AI.

Menurut Graphika, alat-alat AI atau AI Image Generator yang dipakai pengguna 4chan, terutama yang mengikuti forum manipulasi gambar pesohor di atas, meliputi Bing Image Creator, Microsoft Designer, hingga DALL-E milik OpenAI.

"Sejumlah pengguna 4chan tampaknya termotivasi untuk membuat gambar AI deepfake yang bagus dari para pesohor, supaya bisa lebih indah dari hasil mainstream," ujar Graphika.

"Mereka juga membagikan sejumlah tips supaya alat-alat AI tersebut tak mendeteksi kata-kata pornografi, sehingga gambar-gambar AI dari kalimat atau prompt yang dimasukkan tidak diblokir," tambah Graphika.

Selain Taylor Swift, forum di 4chan itu juga sebenarnya menampilkan konten deepfake atau AI dari artis lainnya. Bahkan, gambar Taylor Swift AI bukan merupakan gambar yang paling banyak didiskusikan di forum tersebut.

Namun yang jelas, hal ini menandakan bahwa banyak korban deepfake AI yang berkeliaran di internet, salah satunya di forum 4chan tadi.

Terkait pemakaian DALL-E seperti disebutkan di atas, OpenAI memastikan bahwa gambar-gambar deepfake Taylor Swift AI yang ramai di internet tidak diproduksi menggunakan Image Generator milik mereka.

Baca juga: X Twitter Blokir Pencarian Taylor Swift, Buntut Kasus Deepfake AI

Sementara itu, Microsoft mengatakan pihaknya masih melakukan penelusuran apakah produk mereka, seperti Bing Image Creator, dipakai untuk memproduksi gambar Taylor Swift AI atau tidak.

X, sebagai platform yang dipakai untuk menyebarkan gambar Taylor Swift tadi, memblokir pencarian dengan kata kunci "Taylor Swift" ketika gambar ini viral internet, sebagaimana dirangkum KompasTekno dari RollingStones, Kamis (8/2/2024).

Pantauan KompasTekno, Rabu siang WIB, pencarian di X dengan kata kunci "Taylor Swift" atau sejenisnya tak menampilkan hasil apapun alias error. Artinya, pemblokiran ini masih berlangsung hingga saat ini.

Siapkan gugatan

Seperti diwartakan sebelumya, pihak Taylor Swift tidak tinggal diam melihat gambar pornografi buatan AI tersebut tersebar di internet.