Penyalahgunaan AI: Media Sintetik Pembobol Rekening Rp 400 M

MODUS penyalahgunaan AI sebagai media sintetik berupa deepfake, kembali memakan korban.

Kali ini tak tanggung-tanggung, seorang perempuan pejabat keuangan di Hongkong tertipu, dan melakukan transfer 25,6 juta dollar AS atau setara dengan lebih dari Rp 401 miliar kepada pelaku kejahatan dari rekening perusahaan.

Luar biasanya, seperti dilansir South China Morning (1/4/2024), bahwa semua orang dalam modus vide conference penipuan itu tampak nyata, yang menyebabkan kerugian kantor perusahaan multinasional di Hong Kong itu.

Karyawati itu tertipu setelah melihat “jelmaan” versi digital Chief Financial Officer perusahaan, dan beberapa pihak lainnya.

Deepfaker berhasil menipu melalui multi individu dalam panggilan video call deepfake. Pelaku dengan canggih melakukan rekayasa sosial, dan menggunakan metode deepfake nyaris sempurna.

Memang, pekerja tersebut awalnya mulai ragu, karena permintaan transaksi dilakukan secara rahasia. Namun hadirnya orang lain yang terlihat dan terdengar nyata seperti rekan kerja yang dia kenal dalam video conference yang menyaru menjadi staf perusahaan sukses memupus keraguan itu, sehingga ia mengikuti semua instruksi penipu.

Tulisan ini adalah bagian dari riset Academic Leadership pada Center of Cyberlaw dan Digital Transformation Fakultas Hukum Universitas Padjadjaran. Mengingat pentingnya materi ini, maka saya bagikan juga kepada pembaca Kompas.com.

Kekhawatiran global

Dilansir CNN (4/2/2024), peristiwa ini telah memicu kekhawatiran makin tinggi berbagai pihak akan potensi bahaya dan kerusakan yang ditimbulkan oleh teknologi Akal Imitasi (AI) atau Artificial Intelligence.

Deepfake terus berkembang. Penipuan yang awalnya dilakukan seorang sosok, kini terus direkayasa menjadi multi individu. Penjahat dalam hal ini selalu bermain dengan kerentanan psikologis korbannya.

Teknologi deepfake berbasis pembelajaran mendalam AI untuk membuat konten palsu secara online, adalah hal meresahkan di era digital (Kina Viola 'Another Body' documentary exposes harm of deepfake tech, Cornell University, 25/1/2024).

“Deepfake" merupakan terminologi umum yang mencakup konten sintetik. Modelnya bisa berupa teks, gambar, audio, atau video.

Sintesis dikerjakan oleh AI atau algoritma pembelajaran mesin (CLTC Berkeley, “What? So What? Now What?”: A Video on Deepfakes featuring Prof. Hany Farid" 2021).

Sintesis bisa berupa audio ucapan orang lain, atau ketika seseorang mengatakan dan melakukan sesuatu dalam video yang tidak pernah mereka lakukan.

Modus baru itu tampak dari hadirnya "beberapa orang palsu" dalam vicon deepfake. Hal ini tentu berbeda jika lawan bicara hanya satu orang.

Melakukan deepfake vicon dengan banyak manusia palsu sekaligus menggunakan AI bisa sangat mengelabui, bahkan mengintimidasi korban.