Urgensi UU AI bagi Indonesia dan Pasal-pasal yang Perlu Diatur

Meliputi AI terkait manipulasi perilaku kognitif terhadap orang, atau kelompok rentan tertentu. Mainan atau games yang diaktifkan dengan suara yang mendorong perilaku berbahaya pada anak adalah contohnya.

Kriteria ini mencakup juga AI terkait dengan penilaian sosial yang mengklasifikasikan orang berdasarkan perilaku, status sosial ekonomi, atau karakteristik pribadi.

Sistem identifikasi biometrik real-time dan jarak jauh, seperti pengenalan wajah termasuk di dalamnya.

Pengecualian terhadap kriteria unacceptable dapat diberikan. UU AI Uni Eropa menggambarkan, misalnya, untuk sistem identifikasi biometrik jarak jauh, di mana identifikasi setelah penundaan yang signifikan, akan diperbolehkan.

Hal ini bisa dilakukan untuk menuntut kejahatan berat, tetapi hanya setelah persetujuan pengadilan.

Kedua, klasifikasi AI berisiko tinggi (high risk), yaitu sistem AI yang berdampak negatif terhadap keselamatan atau hak-hak dasar.

Dibagi menjadi dua kategori, yaitu sistem AI pada produk yang diatur dalam undang-undang keamanan produk, seperti mainan, penerbangan, mobil, peralatan medis, dan lift.

Sistem AI spesifik yang harus didaftarkan dalam database regulator yang meliputi pula terkait identifikasi biometrik dan kategorisasi orang perseorangan, pengelolaan dan pengoperasian infrastruktur penting, pendidikan dan pelatihan kejuruan.

AI risiko tinggi lainnya adalah menyangkut ketenagakerjaan, manajemen pekerja dan akses terhadap wirausaha.

Akses layanan penting swasta dan layanan serta manfaat publik. Termasuk kedalam AI risiko tinggi adalah penggunaan AI dalam penegakan hukum, manajemen migrasi, suaka dan pengawasan perbatasan, bantuan dalam penafsiran hukum dan penerapan hukum.

Semua sistem AI yang berisiko tinggi akan dinilai atau diasesmen sebelum dipasarkan dan juga sepanjang siklus hidupnya.

Ketiga, pasal tentang AI generatif, contohnya ChatGPT. AI generatif ini harus mematuhi persyaratan transparansi yang meliputi pengungkapan bahwa konten tersebut dihasilkan oleh AI dan tersedianya rancangan model untuk mencegah konten ilegal.

Transparansi juga terkait ringkasan data yang dilindungi hak cipta yang digunakan untuk pelatihan AI.

Keempat, perlu juga ketentuan berupa pasal terkait AI Risiko terbatas (limited risk). Di mana sistem AI dengan risiko terbatas harus mematuhi persyaratan transparansi minimal, yang memungkinkan pengguna mengambil keputusan tepat.

Berkaca dari UU AI Uni Eropa, perlu juga dibuat aturan tentang interaksi pengguna dengan aplikasi, di mana pengguna dapat memutuskan apakah mereka ingin terus menggunakannya. Pengguna harus diberi tahu saat mereka berinteraksi dengan AI.