Penyalahgunaan AI: Media Sintetik Pembobol Rekening Rp 400 M

Terdapat pula klasifikasi sistem AI berisiko tinggi. Meskipun diizinkan, tetapi harus mematuhi berbagai persyaratan dan menjalani penilaian kesesuaian, dan diregistrasi sebelum sistem dirilis ke pasar.

Sistem AI berisiko tinggi juga memerlukan sistem manajemen risiko yang tepat, kemampuan logging, dan pengawasan manusia.

Mengingat AI Generatif tergantung pada data pelatihan, maka tata kelola data yang tepat, pengujian dan validasi serta kontrol yang menjamin keamanan siber, ketahanan dan keadilan sistem adalah keniscayaan.

Untuk sistem AI risiko terbatas atau minimal, tetap diperlukan transparansi di mana pengguna atau pengadilan (jika digunakan sebagai bukti) harus diberi tahu bahwa interaksi mereka dihasilkan oleh AI atau AI berada di baliknya.

Mengingat aksesabilitas terhadap teknologi sudah sedemikian mudahnya dan bisa dilakukan siapapun, maka, saya mengingatkan sekali lagi, Indonesia perlu segera memiliki regulasi AI komprehensif.

Produk hukum yang diperlukan adalah berupa Undang-undang yang mendukung penggunaan dan pengembangan AI di satu sisi, serta menekan, meminimalisasi, melindungi masyarakat dan mencegah penyalahgunaan AI di sisi yang lain.