Prisma Labs Tak Ingin Lensa AI Dipakai Bikin Foto Porno

KOMPAS.com - Belakangan, media sosial dihebohkan dengan tren menyulap sebuah foto menjadi gambar menarik nan artistik menggunakan aplikasi penyunting foto bernama Lensa/Lensa AI.

Di dalam aplikasi tersebut, pengguna bisa menggunakan Magic Avatar, suatu fitur yang mengandalkan teknologi kecerdasan buatan (AI) untuk mengubah foto yang diunggah seakan-akan dilukis oleh seniman profesional. 

Meski bisa menghasilkan foto menarik yang mirip lukisan, teknologi yang ada di dalam Lensa AI diklaim bisa dipakai untuk membuat gambar yang tak senonoh.

Hal ini disimpulkan setelah situs web teknologi TechCrunch melakukan suatu eksperimen pada beberapa foto artis kenamaan yang diunggah ke Lensa AI.

Selain foto artis asli, mereka juga menambahkan beberapa foto pesohor yang telah diedit "setengah telanjang" menggunakan aplikasi penyunting gambar Adobe Photoshop.

Berdasarkan eksperimen dari beberapa foto ini, TechCrunch mengeklaim bahwa Lensa AI ternyata bisa menghasilkan gambar porno yang tidak pantas untuk dilihat publik (NSFW).

Sehingga, aplikasi Lensa AI dikhawatirkan bisa membuat gambar deepfake, alias gambar atau pose rekayasa porno dari seseorang yang sebenarnya tidak dilakukan oleh orang tersebut.

Terkait hal ini, Prisma Labs selaku pengembang aplikasi Lensa AI, melalui CEO-nya, Andrey Usoltsev mengatakan bahwa hasil eksperimen TechCrunch merupakan upaya untuk membuat foto porno melalui Lensa AI secara disengaja.

"Gambar-gambar tersebut merupakan pemanfaatan yang tidak baik dari aplikasi Lensa AI yang sudah direncanakan," kata Usoltsev, dikutip KompasTekno dari TechCrunch, Kamis (8/12/2022).

Kesengajaan yang dimaksud Usoltsev ini boleh jadi mengacu pada upaya TechCrunch untuk menambahkan foto ekstra yang telah diedit di Photoshop tadi.

Usoltsev menjelaskan bahwa teknologi yang ada di Lensa AI mengandalkan model machine learning (ML) Stability AI. Model ML ini diklaim bisa mempelajari hasil edit foto berdasarkan data-data yang telah didapatkan dari pengguna dan internet.

Belakangan, model ML ini ditambahkan dengan Stable Diffusion, suatu teknologi yang bisa mencegah Lensa AI menghasilkan foto porno. Namun tetap saja, Usoltsev menyebut bahwa teknologi ini masih bisa dikelabui oleh pengguna yang cerdik.

Karena perbuatan seperti ini tidak bisa dihindari, Usoltsev mengatakan bahwa pihaknya bakal membuat teknologi atau fitur yang bisa menyaring gambar-gambar NSFW, yang nantinya akan dinamai dengan teknologi NSFW filter.

"Fitur ini bakal memburamkan gambar-gambar yang dikategorikan sebagai gambar porno secara langsung. Sehingga, pengguna bisa tahu dan menentukan sendiri apakah mereka mau menyimpan gambar porno tersebut atau tidak," ungkap Usoltsev.

Usoltsev turut mengingatkan kepada pengguna bahwa Lensa AI bukanlah sebuah aplikasi yang berfungsi sebagai alat yang bisa membuat gambar NSFW.

Namun apabila hal itu dilakukan pengguna, pengunggahan gambar tak senonoh di Lensa AI tentunya melanggar kebijakan penggunaan aplikasi yang telah dibuat sedemikian rupa.

"Semua aplikasi yang ada di internet bisa saja menjadi 'senjata' untuk membuat aneka gambar-gambar berbahaya yang tak pantas dilihat, jika niat pengguna sudah tidak baik," jelas Usoltsev. 

Bos Prisma Labs ini tidak mengumbar kapan fitur NSFW filter tersebut diterapkan ke aplikasi Lensa AI. Ia juga tak menyebut apa rencana Prisma Labs ke depan untuk mencegah gambar deepfake bermunculan melalui aplikasi Lensa AI.

Namun yang jelas, Usoltsev menyebut bahwa pengguna memakai Lensa AI sesuai dengan kemauan mereka, dan gambar-gambar yang diunggah ke aplikasi tersebut juga pengguna yang memilih.

Selain itu, pemakaian gambar-gambar yang tidak senonoh, atau gambar lainnya yang dihasilkan Lensa AI, secara publik bisa saja melanggar hukum yang berlaku di negara asal pengguna.