Prisma Labs Tak Ingin Lensa AI Dipakai Bikin Foto Porno

KOMPAS.com - Belakangan, media sosial dihebohkan dengan tren menyulap sebuah foto menjadi gambar menarik nan artistik menggunakan aplikasi penyunting foto bernama Lensa/Lensa AI.

Di dalam aplikasi tersebut, pengguna bisa menggunakan Magic Avatar, suatu fitur yang mengandalkan teknologi kecerdasan buatan (AI) untuk mengubah foto yang diunggah seakan-akan dilukis oleh seniman profesional. 

Meski bisa menghasilkan foto menarik yang mirip lukisan, teknologi yang ada di dalam Lensa AI diklaim bisa dipakai untuk membuat gambar yang tak senonoh.

Hal ini disimpulkan setelah situs web teknologi TechCrunch melakukan suatu eksperimen pada beberapa foto artis kenamaan yang diunggah ke Lensa AI.

Baca juga: Viral Foto Avatar Lensa AI di Instagram, Begini Cara Gratis Bikinnya

Selain foto artis asli, mereka juga menambahkan beberapa foto pesohor yang telah diedit "setengah telanjang" menggunakan aplikasi penyunting gambar Adobe Photoshop.

Berdasarkan eksperimen dari beberapa foto ini, TechCrunch mengeklaim bahwa Lensa AI ternyata bisa menghasilkan gambar porno yang tidak pantas untuk dilihat publik (NSFW).

Sehingga, aplikasi Lensa AI dikhawatirkan bisa membuat gambar deepfake, alias gambar atau pose rekayasa porno dari seseorang yang sebenarnya tidak dilakukan oleh orang tersebut.

Apa kata pembuat aplikasi Lensa AI?

Play Store/Prisma Labs, Inc Aplikasi Lensa AI di App Store.

Terkait hal ini, Prisma Labs selaku pengembang aplikasi Lensa AI, melalui CEO-nya, Andrey Usoltsev mengatakan bahwa hasil eksperimen TechCrunch merupakan upaya untuk membuat foto porno melalui Lensa AI secara disengaja.

"Gambar-gambar tersebut merupakan pemanfaatan yang tidak baik dari aplikasi Lensa AI yang sudah direncanakan," kata Usoltsev, dikutip KompasTekno dari TechCrunch, Kamis (8/12/2022).

Kesengajaan yang dimaksud Usoltsev ini boleh jadi mengacu pada upaya TechCrunch untuk menambahkan foto ekstra yang telah diedit di Photoshop tadi.

Baca juga: Teknologi AI Bantu Wasit Piala Dunia 2022 Tentukan Offside

Usoltsev menjelaskan bahwa teknologi yang ada di Lensa AI mengandalkan model machine learning (ML) Stability AI. Model ML ini diklaim bisa mempelajari hasil edit foto berdasarkan data-data yang telah didapatkan dari pengguna dan internet.

Belakangan, model ML ini ditambahkan dengan Stable Diffusion, suatu teknologi yang bisa mencegah Lensa AI menghasilkan foto porno. Namun tetap saja, Usoltsev menyebut bahwa teknologi ini masih bisa dikelabui oleh pengguna yang cerdik.

Karena perbuatan seperti ini tidak bisa dihindari, Usoltsev mengatakan bahwa pihaknya bakal membuat teknologi atau fitur yang bisa menyaring gambar-gambar NSFW, yang nantinya akan dinamai dengan teknologi NSFW filter.

"Fitur ini bakal memburamkan gambar-gambar yang dikategorikan sebagai gambar porno secara langsung. Sehingga, pengguna bisa tahu dan menentukan sendiri apakah mereka mau menyimpan gambar porno tersebut atau tidak," ungkap Usoltsev.