Urgensi UU AI bagi Indonesia dan Pasal-pasal yang Perlu Diatur

Deklarasi menekankan perlunya kerja sama internasional dalam pendekatan penggunaan AI untuk mendukung solusi ekonomi digital.

Deklarasi juga secara eksplisit menekankan pentingnya pendekatan regulasi dan tata kelola yang pro-inovasi, memaksimalkan manfaat, dengan tetap memperhitungkan risiko dalam penggunaan AI.

Perhatian para pemimpin negara G20 juga sejalan dengan kondisi terkini AI. Saat ini di satu sisi AI berkembang pesat, terus berubah, dan diimplementasikan. Sementara di sisi lain adanya kondisi ketiadaan regulasi tentang AI.

Regulasi AI memang harus memenuhi beberapa unsur. Pertama hukum harus menjadi akselerator perkembangan AI yang demikian pesat dan mendorong pemanfaatan AI secara optimal.

Kedua, AI perlu terus dikembangkan tanpa harus mendisrupsi hakikat dan keberadaan manusia dengan minimalisasi dampaknya.

Ketiga, AI sebagai teknologi, harus diabdikan sebesar-besarnya manfaat untuk manusia dan peradabannya serta bukan mendisrupsi eksistensi manusia.

AI secara optimal dapat difungsikan untuk layanan publik, layanan pemerintahan, pendidikan, kesehatan, transportasi yang lebih baik, lebih aman dan bersih.

AI juga dapat difungsikan untuk industri manufaktur yang lebih efisien, pengelolaan dan pemanfaatan energi lebih murah dan berkelanjutan, peningkatan ekonomi digital, dengan tetap berpusat pada peran manusia.

Regulasi juga harus diarahkan untuk menjaga kedaulatan, keutuhan negara, dan kesejahteraan seluruh warganya.

Menghadapi perkembangan AI yang amat pesat ini, perlu dipahami bahwa untuk menetapkan ruang lingkup regulasi AI, kita perlu melakukan kajian dan komparasi dengan berbagai best practices dan regulasi negara lain yang terdepan di bidang AI.

Pasal RUU

Regulasi dan praktik Uni Eropa, serta pendekatan framework yang dibuat AS dapat dijadikan sebagai benchmark. Mengingat Uni Eropa adalah negara terdepan yang meregulasi AI dan AS adalah negara gudangnya inovasi dan pengembangan AI.

Lalu pasal-pasal apa saja yang perlu dibuat sebagai materi muatan UU Al?

Menelaah UU AI Uni Eropa, AI diklasifikasikan berdasarkan tingkat risiko sebagai berikut:

Pertama, AI dengan tingkat risiko yang tidak dapat diterima (unacceptable). Adalah sistem yang dianggap sebagai ancaman bagi manusia dan harus dilarang.

Meliputi AI terkait manipulasi perilaku kognitif terhadap orang, atau kelompok rentan tertentu. Mainan atau games yang diaktifkan dengan suara yang mendorong perilaku berbahaya pada anak adalah contohnya.

Kriteria ini mencakup juga AI terkait dengan penilaian sosial yang mengklasifikasikan orang berdasarkan perilaku, status sosial ekonomi, atau karakteristik pribadi.

Sistem identifikasi biometrik real-time dan jarak jauh, seperti pengenalan wajah termasuk di dalamnya.

Pengecualian terhadap kriteria unacceptable dapat diberikan. UU AI Uni Eropa menggambarkan, misalnya, untuk sistem identifikasi biometrik jarak jauh, di mana identifikasi setelah penundaan yang signifikan, akan diperbolehkan.

Hal ini bisa dilakukan untuk menuntut kejahatan berat, tetapi hanya setelah persetujuan pengadilan.

Kedua, klasifikasi AI berisiko tinggi (high risk), yaitu sistem AI yang berdampak negatif terhadap keselamatan atau hak-hak dasar.

Dibagi menjadi dua kategori, yaitu sistem AI pada produk yang diatur dalam undang-undang keamanan produk, seperti mainan, penerbangan, mobil, peralatan medis, dan lift.

Sistem AI spesifik yang harus didaftarkan dalam database regulator yang meliputi pula terkait identifikasi biometrik dan kategorisasi orang perseorangan, pengelolaan dan pengoperasian infrastruktur penting, pendidikan dan pelatihan kejuruan.

AI risiko tinggi lainnya adalah menyangkut ketenagakerjaan, manajemen pekerja dan akses terhadap wirausaha.

Akses layanan penting swasta dan layanan serta manfaat publik. Termasuk kedalam AI risiko tinggi adalah penggunaan AI dalam penegakan hukum, manajemen migrasi, suaka dan pengawasan perbatasan, bantuan dalam penafsiran hukum dan penerapan hukum.

Semua sistem AI yang berisiko tinggi akan dinilai atau diasesmen sebelum dipasarkan dan juga sepanjang siklus hidupnya.

Ketiga, pasal tentang AI generatif, contohnya ChatGPT. AI generatif ini harus mematuhi persyaratan transparansi yang meliputi pengungkapan bahwa konten tersebut dihasilkan oleh AI dan tersedianya rancangan model untuk mencegah konten ilegal.

Transparansi juga terkait ringkasan data yang dilindungi hak cipta yang digunakan untuk pelatihan AI.

Keempat, perlu juga ketentuan berupa pasal terkait AI Risiko terbatas (limited risk). Di mana sistem AI dengan risiko terbatas harus mematuhi persyaratan transparansi minimal, yang memungkinkan pengguna mengambil keputusan tepat.

Berkaca dari UU AI Uni Eropa, perlu juga dibuat aturan tentang interaksi pengguna dengan aplikasi, di mana pengguna dapat memutuskan apakah mereka ingin terus menggunakannya. Pengguna harus diberi tahu saat mereka berinteraksi dengan AI.

Hal ini termasuk untuk sistem AI yang menghasilkan atau memanipulasi konten gambar, audio, atau video.

Agar UU AI yang dibuat secara komprehensif mencakup sisi pandang Uni Eropa dan AS sebagai dua blok pionir transformasi digital, maka penting untuk mengkomparasi regulasi dan kebijakan keduanya.

Sebagaimana diketahui bahwa National Institute of Standards and Technology (NIST), institusi di bawah US Department of Commerce, pada 26 Januari 2023, juga telah meluncurkan Artificial Intelligence Risk Management Framework (AI RMF 1.0).

Hal ini sudah saya bahas di Kompas.com dengan judul "AI RMF 1.0 Pedoman Kecerdasan Buatan di AS dan Kalibrasi Hukum",

Prinsip-prinsip AI RMF perlu dijadikan materi muatan regulasi UU AI kita ke depan antara lain, pertama, prinsip bahwa organisasi harus memupuk budaya manajemen risiko, termasuk struktur, kebijakan, dan proses yang sesuai. Manajemen risiko harus menjadi prioritas dalam kepemimpinan.

Kedua, prinsip terkait budaya organisasi dan manajemen yang menyelaraskan aspek teknis manajemen risiko AI, dengan kebijakan organisasi.

Organisasi harus memahami dan menimbang manfaat dan risiko sistem AI yang ingin mereka terapkan dibandingkan dengan status quo. Termasuk informasi kontekstual seperti kemampuan sistem, risiko, manfaat, dan dampak potensial.

Ketiga, dengan menggunakan metode penilaian risiko kuantitatif, kualitatif, atau campuran, serta masukan dari pakar independen, sistem AI harus dianalisis agar karakteristiknya dapat dipercaya, dampak sosial, dan faktor konfigurasi manusia dan AI itu sendiri.

Keempat, risiko yang teridentifikasi harus dikelola, dengan memprioritaskan sistem AI yang berisiko lebih tinggi. Pemantauan risiko harus diterapkan dari waktu ke waktu. Karena konteks risiko, kebutuhan, atau harapan baru dan tak terduga, dapat muncul kapan saja.

Kelima, prinsip sosio-teknis dan data yang berubah. AI dipengaruhi oleh dinamika masyarakat dan perilaku manusia. Sosio-teknis dalam pengembangan AI begitu penting diantisipasi, mengingat AI sebagai kecerdasan buatan, terus berinteraksi dengan manusia.

Mengingat Indonesia adalah negara yang lebih menekankan pada sistem hukum tertulis, maka pendekatan berupa UU AI tentu lebih tepat.

UU AI Uni Eropa dan AI RMF 1.0 AS dapat menjadi bahan kajian naskah akademik dan draft RUU.

Sanksi pidana

Indonesia perlu memprioritaskan pembuatan UU AI karena AI telah menjadi bagian dari kehidupan. Sifat cross border AI telah membuat pemanfaatan AI di Indonesia terjadi secara masif melalui platform digital global.

Selain materi muatan yang telah diuraikan, UU AI perlu juga mengatur pasal-pasal tentang penyalahgunaan AI.

Hal ini merujuk pada realitas banyaknya negara di dunia yang tidak bisa mengatasi modus kejahatan siber mutakhir, karena ketiadaan regulasi dan sanksi yang proporsional.

Oleh karena itu, UU AI perlu menerapkan sanksi pidana, yang secara proporsional sanggup menjaga ketertiban umum, mengingat fenomena AI kerap dijadikan instrumen kejahatan siber.

Apalagi pelaku kejahatan bisa melakukannya dengan mudah dan murah, seperti pada kasus-kasus "deepfake".