Potensi dan Ancaman di Balik Kloning Suara AI

Voice Engine, yang mampu mengkloning suara dari klip berdurasi 15 detik, menawarkan peluang untuk penggunaan positif di berbagai bidang, termasuk pendidikan, kesehatan, dan komunikasi.

OpenAI menunjukkan komitmennya untuk menggunakan teknologi ini secara bertanggung jawab dengan melibatkan perusahaan dari berbagai industri dalam penerapan awalnya.

Dengan kapasitas untuk membaca teks dalam bahasa asli pembicara atau bahasa lain, Voice Engine sudah mendukung pembacaan teks otomatis melalui API dan fitur ChatGPT’s Read Aloud.

Pembangunan teknologi ini di akhir 2022 menandakan langkah awal OpenAI dalam memahami potensi dan batasan dari AI voice cloning.

Jeff Harris, anggota tim produk OpenAI, menekankan bahwa teknologi ini dilatih menggunakan kombinasi data berlisensi dan data publik yang tersedia, menunjukkan upaya OpenAI dalam mengedepankan etika dan privasi data.

Sementara itu, di tingkat global dan nasional, pemerintah berusaha keras untuk membatasi penggunaan teknologi suara AI yang tidak etis.

Amerika Serikat, melalui Federal Communications Commission, telah mengambil langkah proaktif dengan melarang robocall yang menggunakan suara AI untuk meniru tokoh publik, respons terhadap kekhawatiran atas peningkatan spam call yang mengganggu.

Situasi di Indonesia memberikan gambaran yang lebih mendalam tentang dampak negatif yang mungkin terjadi.

Menurut Kementerian Komunikasi dan Informatika, terdapat 1.730 kasus penipuan online dengan kerugian yang mencapai ratusan triliun rupiah hingga November 2022.

Lebih jauh, Polri telah menangani 39.586 kasus penipuan dan penggelapan selama periode sama, menyoroti skala besar masalah ini.

Potensi risiko dari penyalahgunaan teknologi kloning suara menjadi sangat nyata. Kementerian Komunikasi dan Informatika melaporkan bahwa jumlah korban penipuan online mencapai 130.000 orang pada tahun 2022, dengan modus semakin canggih, termasuk penggunaan identitas palsu melalui teknologi voice cloning.

Direktur Jenderal Aplikasi Informatika, Semuel Abrijani Pangerapan, menyoroti tingginya kasus penipuan online di Indonesia, menggarisbawahi kebutuhan akan peningkatan literasi digital dan keamanan online di tengah masyarakat.

Menariknya, data dari katadata pada tahun 2020 menunjukkan bahwa catfishing terjadi di berbagai platform, dengan 40 persen terjadi di aplikasi kencan.

Fakta mengejutkan lainnya adalah 64 persen pelaku catfishing adalah perempuan, menunjukkan bahwa masalah ini melintasi batas gender.

Total kerugian yang diakibatkan oleh catfishing pada tahun tersebut mencapai 600 juta dollar AS, menggarisbawahi dampak finansial yang signifikan dari penipuan online.

Kasus "Tinder Swindler", baik yang versi global maupun Indonesia, mengilustrasikan bagaimana teknologi kloning suara dapat memfasilitasi penipuan dalam skala yang belum pernah terjadi sebelumnya.

Tantangan ini semakin dipertegas oleh studi yang dilakukan oleh Center for Digital Society (CfDS) UGM pada Agustus 2023, yang menemukan bahwa dari 1.700 responden di 34 provinsi Indonesia, sebanyak 66,6 persen pernah menjadi korban penipuan online.

Studi ini mengungkapkan lima jenis penipuan online yang paling sering diterima oleh responden, termasuk penipuan berkedok hadiah (36,9 persen), pengiriman tautan penipuan (33,8 persen), penipuan jual beli (29,4 persen), melalui situs web atau aplikasi palsu (27,4 persen), dan penipuan berkedok krisis keluarga (26,5 persen).

Media atau platform yang digunakan untuk penipuan online juga bervariasi, dengan SMS/telepon menjadi media utama (64,1persen), diikuti media sosial (12,3 persen), aplikasi percakapan (9,1 persen), situs web (8,9 persen), dan email (3,8 persen).

Temuan ini menunjukkan betapa luas dan beragamnya metode yang digunakan oleh penipu online untuk mengeksploitasi korban.

Dalam konteks penggunaan teknologi voice cloning, potensi untuk penyalahgunaan semakin meningkat, mengingat teknologi ini dapat membuat penipuan menjadi lebih meyakinkan dan sulit untuk dideteksi.

Misalnya, penipuan berkedok krisis keluarga dapat menjadi lebih efektif jika pelaku menggunakan suara yang mirip dengan anggota keluarga korban, meningkatkan kemungkinan korban untuk tertipu.

Perkembangan ini menuntut tanggung jawab kolektif dari pengembang, pengguna, dan regulator untuk memastikan bahwa teknologi voice cloning digunakan dengan cara yang etis dan bertanggung jawab.

Selain itu, kerja sama lintas sektor dan internasional sangat diperlukan untuk mengatasi penipuan online yang semakin kompleks.

Dengan fokus pada inovasi yang bertanggung jawab, kita dapat menikmati manfaat yang ditawarkan oleh AI voice cloning, sambil meminimalkan potensi risiko terhadap keamanan dan privasi individu.

Dengan demikian, meskipun AI voice cloning menawarkan peluang besar untuk inovasi dan peningkatan efisiensi di berbagai sektor, penting untuk terus waspada terhadap risiko penyalahgunaannya.

Melalui pendekatan yang seimbang dan bijak, kita dapat mengharapkan masa depan di mana teknologi suara buatan memperkaya kehidupan kita tanpa mengorbankan keamanan dan privasi.