AI yang Dibolehkan

INI adalah uraian praktis tentang Artificial Intelligence (AI) yang dibolehkan. Artikel ini akan membahas AI kategori apa saja yang boleh dipasarkan, diberlakukan dan digunakan atau dioperasikan.

Dalam artikel saya sebelumnya “AI yang Dilarang” (Kompas.com 16/06/2024), dijelaskan terdapat jenis AI yang dilarang.

AI ini termasuk klasifikasi kategori risiko yang tidak dapat diterima (unacceptable risk). Kriteria ini merujuk pada ketentuan UU AI Uni Eropa (EU AI Act).

Untuk membahas sistem AI yang dibolehkan, kita dapat menyimak lebih dulu referensi EY dalam publikasinya, "The EU AI Act: What it means for your business" (Konrad Meier & Roger Spichiger 15/03/2024).

Diizinkan

Dari uraian EY, dapat disimpulkan bahwa EU AI Act mengizinkan model AI meskipun berkategori sistem AI berisiko tinggi (high risk).

Dengan catatan harus mematuhi berbagai persyaratan, dan menjalani penilaian kesesuaian lebih dulu, sebelum sistem dirilis ke pasar.

Sistem AI tersebut juga harus didaftarkan kedalam database Uni Eropa. Diperlukan sistem manajemen risiko AI yang tepat, kemampuan logging, disertai pengawasan manusia, untuk mengoperasikan sistem AI berisiko tinggi ini.

Disyaratkan pula, keharusan adanya tata kelola data yang tepat. Mencakup penerapan data yang digunakan dalam pelatihan, pengujian, validasi, serta kontrol yang menjamin keamanan siber, ketahanan, dan keadilan sistem.

Jika kita lihat ketentuan EU AI Act, jenis AI yang dibolehkan meskipun bermuatan risiko Tinggi diatur dalam Chapter III, Art 6. Sistem AI yang berisiko tinggi melibatkan komponen keselamatan dalam infrastruktur penting.

Hal ini juga mencakup aplikasi di sektor-sektor seperti pendidikan, ketenagakerjaan, dan penegakan hukum, di mana teknologi ini boleh untuk dipasarkan, diberlakukan dan digunakan.

Sistem AI dianggap berisiko tinggi, jika digunakan dalam infrastruktur penting, pendidikan dan pelatihan, ketenagakerjaan dan manajemen pekerja. Mencakup pula layanan publik penting, penegakan hukum, manajemen perbatasan, administrasi peradilan, dan proses demokrasi.

EY menggarisbawahi bahwa sistem berisiko tinggi juga meliputi sistem yang digunakan dalam proses perekrutan atau penilaian karyawan, sistem penilaian kredit, pemrosesan klaim asuransi otomatis, atau penetapan premi risiko bagi pelanggan.

Sistem AI lainnya yang diizinkan adalah sistem yang dianggap memiliki risiko terbatas atau minimal. Kebolehan atas AI dengan kategori risiko terbatas diatur Art 8-17 EU AI Act.

Jenis AI ini dibolehkan untuk dipasarkan, diberlakukan, dan digunakan, namun tunduk pada kewajiban transparansi yang lebih ringan.

Kewajiban itu seperti memastikan pengguna harus menyadari bahwa mereka berinteraksi dengan AI.