UU AI Uni Eropa Disahkan: Inspirasi Model Regulasi Indonesia (Bagian I)

Dengan diadopsinya oleh Dewan Eropa, maka yang tersisa berikutnya hanya tindakan formalitas, berupa tanda tangan Presiden, Sekretaris Jenderal Parlemen, dan Dewan Eropa.

UU kemudian akan dipublikasikan di Jurnal Resmi UE, dan akan mulai berlaku 20 hari setelah proses ini.

Adopsi UU bersejarah ini dilakukan 21 Mei 2024. Putusan tingkat paling tinggi ini, menunjukan tahap akhir proses legislasi.

UU AI komprehensif pertama di dunia yang sempat menimbulkan gegap gempita ini, akan segera berlaku dengan masa transisi.

Dewan Eropa menyatakan bahwa Undang-undang AI memberikan kerangka hukum yang ramah terhadap inovasi dan bertujuan mendorong regulasi berbasis bukti.

EU AI Act mendorong regulasi AI yang memungkinkan terkendalinya lingkungan pengembangan, pengujian, dan validasi sistem AI inovatif, dan pengujian inovasi AI dalam dunia nyata.

Untuk diketahui, Dewan Eropa (European Council) adalah institusi tertinggi yang Anggotanya terdiri atas para kepala negara, atau pemerintahan negara-negara Uni Eropa, Presiden Dewan Eropa, dan Presiden Komisi Eropa.

Dewan Eropa didirikan awalnya pada 1974, berperan menentukan arah politik umum, dan prioritas Uni Eropa. Secara organisasi Dewan Eropa adalah representasi tingkat kerja sama politik tertinggi negara-negara Uni Eropa.

Dikutip dari tulisan Huw Beverly-Smith, Emily JA Evans "EU Artificial Intelligence Act – Legislation Adopted by the European Council (22/5/2024)", bahwa berdasarkan ketentuan regulasi ini, UU AI Uni Eropa, akan berlaku penuh 24 bulan setelah diberlakukan. Namun, beberapa ketentuan akan berlaku sebelum tanggal tersebut.

Manajemen Risiko

Lalu apa saja yang diatur dalam UU AI versi final ini?

Pertama, UU ini menggunakan pendekatan berbasis manajemen risiko. Dalam arti semakin tinggi risiko yang dapat ditimbulkan oleh AI, dan mengakibatkan kerugian bagi masyarakat, maka semakin ketat pula peraturan yang diterapkan.

UU ini tampak menekankan langkah untuk mengidentifikasi, menganalisis, mengevaluasi, dan menangani eksposur kerugian, serta memantau pengendalian risiko untuk memitigasi dampak buruk yang diakibatkan oleh pengembangan dan penggunaan AI.

Kedua, UU mengatur bukan hanya kewajiban penyedia dan pengembang, tetapi juga kewajiban pengguna. Namun demikian, kewajiban utama paling ditekankan kepada penyedia atau pengembang sistem AI berisiko tinggi.

Tanggung jawab itu termasuk dalam menetapkan sistem manajemen risiko, melakukan tata kelola data yang relevan dan representatif, menyusun dokumentasi teknis untuk menunjukkan kepatuhan, dan merancang sistem AI, untuk melakukan pencatatan peristiwa, secara otomatis.

Ketiga, UU AI juga memberikan Kewajiban kepada penyedia dan pengembang AI risiko tinggi, untuk membuat dan memberikan instruksi penggunaan kepada pengguna akhir. Hal ini penting untuk memastikan kepatuhan pengguna.

Penyedia dan pengembang, juga harus bisa memastikan sistem AI mereka memiliki tingkat akurasi, ketahanan, dan keamanan siber yang memadai.

Keempat, UU ini juga mengatur kewajiban bagi pengguna AI. Pengguna atau pelaku usaha dari sistem AI berisiko tinggi, juga memiliki beberapa kewajiban, meskipun lebih sedikit dibandingkan penyedia.

Pengguna wajib memastikan penggunaan sistem AI secara patuh, sesuai dengan panduan yang diberikan oleh penyedia. Pengguna harus mematuhi regulasi terkait keamanan dan perlindungan data.

Sistem AI yang dilarang

Dalam publikasi Resminya yang dirilis (21/5/2024), Dewan Eropa menjelaskan isi dan jangkauan UU AI yang telah mereka sepakati. Pendekatan regulasi berbasis risiko adalah model yang dipilih oleh Uni Eropa.

Dalam pernyataan resminya, Dewan Eropa menyatakan kategorisasi berbagai jenis kecerdasan buatan berdasarkan risikonya sebagai berikut:

Pertama, sistem AI yang hanya memiliki risiko terbatas, akan tunduk pada kewajiban transparansi yang sangat ringan.

Sementara sistem AI yang berisiko tinggi akan tetap diizinkan, namun tunduk pada serangkaian persyaratan ketat, dan kewajiban untuk mendapatkan akses ke pasar Uni Eropa.

Kedua, sistem AI yang digunakan terkait manipulasi perilaku kognitif, dan penilaian sosial, akan dilarang. Hal ini satu dan lain hal karena risikonya dianggap tidak dapat diterima.

Ketiga, UU AI juga melarang penggunaan AI untuk kebijakan prediktif berdasarkan profil dan sistem penggunaan data biometrik, dan untuk kategorisasi individu, misalnya, berdasarkan ras dan agama, atau hal yang bersifat diskriminatif.

Selain itu juga terdapat klasifikasi AI berbasis risko lainnya, yaitu AI dengan risiko tinggi. Sistem AI dengan risiko tinggi diatur dengan ketat. Penyedia harus mematuhi berbagai persyaratan regulatif.

Dewan menyatakan, sebelum sistem AI berisiko tinggi diterapkan oleh beberapa entitas yang menyediakan layanan publik, maka dampak terhadap hak-hak dasar perlu dinilai atau diasesmen lebih dulu.

Transparansi juga mencakup pengembangan, dan penggunaan sistem AI yang berisiko tinggi. Sistem AI berisiko tinggi, serta pengguna tertentu dari sistem AI berisiko tinggi, yang merupakan entitas publik harus terdaftar di database Uni Eropa.

Sistem AI berisiko tinggi, dan pengguna sistem pengenalan emosi, harus menginformasikan hal-hal yang bersifat alami terkait individu, ketika mereka terkena dampak sistem itu.

Sedangkan untuk AI dengan risiko terbatas, akan dikenakan kewajiban transparansi yang lebih ringan. Misalnya, AI dalam chatbot dan deepfake.

Kriteria berbasis risiko terakhir, adalah AI dengan risiko minimal. Sebagian besar aplikasi AI di pasar tunggal Uni Eropa saat ini, seperti video game berkemampuan AI, dan filter spam, dikategorikan sebagai AI dengan risiko minimal, sehingga tidak diatur secara ketat.

Dengan mengklasifikasikan AI berdasarkan risiko dan menetapkan berbagai kewajiban bagi penyedia dan pengguna, UU AI bertujuan memastikan penggunaan AI yang aman dan etis.

Undang-undang ini juga mengatur penggunaan model AI untuk tujuan umum (GPAI). Model GPAI yang tidak menimbulkan risiko sistemik, akan tunduk pada beberapa persyaratan terbatas, seperti soal transparansi.

Sedangkan model GPAI yang memiliki risiko sistemik, harus mematuhi aturan yang lebih ketat.

Baca artikel selanjutnya: UU AI Uni Eropa Disahkan: Inspirasi Model Regulasi Indonesia (Bagian II-Habis)