UU AI Uni Eropa Disahkan: Inspirasi Model Regulasi Indonesia (Bagian I)

Ketiga, UU AI juga memberikan Kewajiban kepada penyedia dan pengembang AI risiko tinggi, untuk membuat dan memberikan instruksi penggunaan kepada pengguna akhir. Hal ini penting untuk memastikan kepatuhan pengguna.

Penyedia dan pengembang, juga harus bisa memastikan sistem AI mereka memiliki tingkat akurasi, ketahanan, dan keamanan siber yang memadai.

Keempat, UU ini juga mengatur kewajiban bagi pengguna AI. Pengguna atau pelaku usaha dari sistem AI berisiko tinggi, juga memiliki beberapa kewajiban, meskipun lebih sedikit dibandingkan penyedia.

Pengguna wajib memastikan penggunaan sistem AI secara patuh, sesuai dengan panduan yang diberikan oleh penyedia. Pengguna harus mematuhi regulasi terkait keamanan dan perlindungan data.

Sistem AI yang dilarang

Dalam publikasi Resminya yang dirilis (21/5/2024), Dewan Eropa menjelaskan isi dan jangkauan UU AI yang telah mereka sepakati. Pendekatan regulasi berbasis risiko adalah model yang dipilih oleh Uni Eropa.

Dalam pernyataan resminya, Dewan Eropa menyatakan kategorisasi berbagai jenis kecerdasan buatan berdasarkan risikonya sebagai berikut:

Pertama, sistem AI yang hanya memiliki risiko terbatas, akan tunduk pada kewajiban transparansi yang sangat ringan.

Sementara sistem AI yang berisiko tinggi akan tetap diizinkan, namun tunduk pada serangkaian persyaratan ketat, dan kewajiban untuk mendapatkan akses ke pasar Uni Eropa.

Kedua, sistem AI yang digunakan terkait manipulasi perilaku kognitif, dan penilaian sosial, akan dilarang. Hal ini satu dan lain hal karena risikonya dianggap tidak dapat diterima.

Ketiga, UU AI juga melarang penggunaan AI untuk kebijakan prediktif berdasarkan profil dan sistem penggunaan data biometrik, dan untuk kategorisasi individu, misalnya, berdasarkan ras dan agama, atau hal yang bersifat diskriminatif.

Selain itu juga terdapat klasifikasi AI berbasis risko lainnya, yaitu AI dengan risiko tinggi. Sistem AI dengan risiko tinggi diatur dengan ketat. Penyedia harus mematuhi berbagai persyaratan regulatif.

Dewan menyatakan, sebelum sistem AI berisiko tinggi diterapkan oleh beberapa entitas yang menyediakan layanan publik, maka dampak terhadap hak-hak dasar perlu dinilai atau diasesmen lebih dulu.

Transparansi juga mencakup pengembangan, dan penggunaan sistem AI yang berisiko tinggi. Sistem AI berisiko tinggi, serta pengguna tertentu dari sistem AI berisiko tinggi, yang merupakan entitas publik harus terdaftar di database Uni Eropa.

Sistem AI berisiko tinggi, dan pengguna sistem pengenalan emosi, harus menginformasikan hal-hal yang bersifat alami terkait individu, ketika mereka terkena dampak sistem itu.

Sedangkan untuk AI dengan risiko terbatas, akan dikenakan kewajiban transparansi yang lebih ringan. Misalnya, AI dalam chatbot dan deepfake.