Baca berita tanpa iklan. Gabung Kompas.com+
Dr. Eng. Alfian Akbar Gozali
Dosen & Manajer Pengembangan Produk TI Telkom University

Dosen Telkom University, Penulis Buku Kecerdasan Generatif Artifisial

kolom

Potensi dan Ancaman di Balik Kloning Suara AI

Kompas.com - 05/04/2024, 13:43 WIB
Anda bisa menjadi kolumnis !
Kriteria (salah satu): akademisi, pekerja profesional atau praktisi di bidangnya, pengamat atau pemerhati isu-isu strategis, ahli/pakar di bidang tertentu, budayawan/seniman, aktivis organisasi nonpemerintah, tokoh masyarakat, pekerja di institusi pemerintah maupun swasta, mahasiswa S2 dan S3. Cara daftar baca di sini

PENGEMBANGAN teknologi suara buatan oleh OpenAI, melalui platform Voice Engine, merupakan langkah revolusioner dalam dunia AI yang menjanjikan banyak keuntungan, sekaligus membawa potensi risiko yang signifikan.

Voice Engine, yang mampu mengkloning suara dari klip berdurasi 15 detik, menawarkan peluang untuk penggunaan positif di berbagai bidang, termasuk pendidikan, kesehatan, dan komunikasi.

OpenAI menunjukkan komitmennya untuk menggunakan teknologi ini secara bertanggung jawab dengan melibatkan perusahaan dari berbagai industri dalam penerapan awalnya.

Dengan kapasitas untuk membaca teks dalam bahasa asli pembicara atau bahasa lain, Voice Engine sudah mendukung pembacaan teks otomatis melalui API dan fitur ChatGPT’s Read Aloud.

Pembangunan teknologi ini di akhir 2022 menandakan langkah awal OpenAI dalam memahami potensi dan batasan dari AI voice cloning.

Jeff Harris, anggota tim produk OpenAI, menekankan bahwa teknologi ini dilatih menggunakan kombinasi data berlisensi dan data publik yang tersedia, menunjukkan upaya OpenAI dalam mengedepankan etika dan privasi data.

Sementara itu, di tingkat global dan nasional, pemerintah berusaha keras untuk membatasi penggunaan teknologi suara AI yang tidak etis.

Amerika Serikat, melalui Federal Communications Commission, telah mengambil langkah proaktif dengan melarang robocall yang menggunakan suara AI untuk meniru tokoh publik, respons terhadap kekhawatiran atas peningkatan spam call yang mengganggu.

Situasi di Indonesia memberikan gambaran yang lebih mendalam tentang dampak negatif yang mungkin terjadi.

Menurut Kementerian Komunikasi dan Informatika, terdapat 1.730 kasus penipuan online dengan kerugian yang mencapai ratusan triliun rupiah hingga November 2022.

Lebih jauh, Polri telah menangani 39.586 kasus penipuan dan penggelapan selama periode sama, menyoroti skala besar masalah ini.

Potensi risiko dari penyalahgunaan teknologi kloning suara menjadi sangat nyata. Kementerian Komunikasi dan Informatika melaporkan bahwa jumlah korban penipuan online mencapai 130.000 orang pada tahun 2022, dengan modus semakin canggih, termasuk penggunaan identitas palsu melalui teknologi voice cloning.

Direktur Jenderal Aplikasi Informatika, Semuel Abrijani Pangerapan, menyoroti tingginya kasus penipuan online di Indonesia, menggarisbawahi kebutuhan akan peningkatan literasi digital dan keamanan online di tengah masyarakat.

Menariknya, data dari katadata pada tahun 2020 menunjukkan bahwa catfishing terjadi di berbagai platform, dengan 40 persen terjadi di aplikasi kencan.

Fakta mengejutkan lainnya adalah 64 persen pelaku catfishing adalah perempuan, menunjukkan bahwa masalah ini melintasi batas gender.

Halaman:
Video rekomendasi
Video lainnya


Baca berita tanpa iklan. Gabung Kompas.com+
Baca berita tanpa iklan. Gabung Kompas.com+
Baca berita tanpa iklan. Gabung Kompas.com+
komentar di artikel lainnya
Baca berita tanpa iklan. Gabung Kompas.com+
Close Ads
Bagikan artikel ini melalui
Oke
Login untuk memaksimalkan pengalaman mengakses Kompas.com