Lembaga Pengawas dan Pemberi Sanksi Pelanggaran AI

PARA pemimpin negara di dunia tampak terperangah. Betapa cepatnya perkembangan teknologi Artificial intelligence (AI).

Kecepatan yang memberi manfaat besar ini, juga diikuti modus-modus kejahatan dan penipuan sebagai dampak negatif di samping maslahat yang dihasilkannya.

Belum lagi hadirnya bayang-bayang potensi AI tidak hanya akan melampaui kecerdasan manusia, tetapi lebih jauh akan menggerus peran dan eksistensi manusia dan peradabannya. Hal ini membuat Uni Eropa bergerak paling depan dengan membuat UU AI Eropa.

Teknologi ini pula yang mendorong peralihan dari Industri 4.0 ke Industi 5.0 berlangsung begitu singkat.

Lalu apakah untuk menghadapi hal ini negara memerlukan lembaga atau unit khusus sebagai pengawas?

Regulasi AI

Dilansir KPMG dalam laporannya “EU Artificial Intelligence Act” (31/1/2024), bahwa Sistem AI adalah sistem berbasis mesin yang dirancang untuk beroperasi dengan berbagai tingkat otonomi, dan memungkinkan kemampuan beradaptasi.

Hal ini sejalan dengan definisi UU AI Eropa yang dirangkum sebagai berikut:

Pertama, AI adalah sistem berbasis mesin, yang dirancang untuk beroperasi dengan berbagai tingkat otonomi.

Kedua, AI memungkinkan kemampuan beradaptasi setelah diterapkan untuk tujuan eksplisit atau implisit.

Ketiga, AI dapat membuat kesimpulan, dari masukan yang diterimanya.

Keempat, AI menghasilkan luaran berupa prediksi, konten, rekomendasi, atau keputusan yang dapat memengaruhi lingkungan fisik atau virtual.

Frederiek Fernhout & Thibau Duquin dalam artikelnya The EU Artificial Intelligence Act: our 16 key takeaway Stibbe (13/2/2024), menyatakan bahwa definisi ini mengikuti definisi terbaru dari OECD.

Di Indonesia, AI seringkali disebut “Kecerdasasan Buatan”, “Kecerdasan Artifisial” bahkan terbaru “Akal Imitasi”. Istilah yang terakhir memungkinkan penggunaan singkatan yang sama, yaitu AI.

Kecepatan pengembangan AI memberikan peluang besar bagi revolusi bisnis dan produk layanannya. Namun demikian, terdapat kekhawatiran akan konsekuensi yang tidak diketahui dan potensi yang ditimbulkan oleh teknologi ini.

KPMG menekankan, salah satu komponen penting dalam mengelola potensi risiko yang terkait dengan AI adalah regulasi yang tepat.

Di sinilah pentingnya peran hukum sebagai infrastruktur transformasi. Hukum harus berada di depan sebagai upaya preventif. Namun juga harus dapat berperan ketika pelanggaran sudah kadung terjadi, mengingat pendekatan teknologi saja tidaklah cukup.

Uni Eropa adalah pioner dan menjadi yang pertama di dunia mengatur AI dalam UU komprehensif. UU AI itu dikenal dengan EU AI Act, yang pada awal Maret ini disetujui Parlemen Eropa.

Uni Eropa melakukan pendekatan proaktif dalam mengatur teknologi AI, untuk memastikan hal tersebut sejalan dengan hak-hak dasar, privasi, dan standar keselamatan umat manusia.

Namun di sisi lain, melalui regulasi ini, Uni Eropa juga memiliki agenda besar dari sisi bisnis internasional. Mereka berambisi menjadikan Eropa sebagai pusat perkembangan AI global.

Kantor AI Eropa

Apakah Badan khusus yang mengatur dan mengawasi “perilaku” AI diperlukan?

Untuk menjawab hal ini kita bisa belajar dari Uni Eropa. Mereka membuat keputusan terbaru, sebagai tindak lanjut UU AI yang mereka buat dengan membuat Kantor AI Eropa.

Komisi Eropa telah mengumumkan terbentuknya Kantor AI Eropa (European AI Office) dalam siaran pers berjudul “Commission Decision Establishing the European AI Office”.

Keberadaan Kantor AI Eropa untuk mendukung pengembangan dan penggunaan AI yang dapat dipercaya. Hal ini sekaligus melindungi masyarakat terhadap berbagai risikonya. Kantor ini akan dibentuk dan berada di dalam Komisi Eropa.

Keberadaan kantor AI Eropa tidak mengurangi fungsi departemen Komisi lainnya sesuai tanggung jawabnya masing-masing, termasuk bidang keamanan dan luar negeri.

Kantor AI Eropa diberi wewenang mengeluarkan panduan, yang tidak menduplikasi aktivitas badan, kantor, dan institusi lain di Uni Eropa, dan menjadi landasan sistem tata kelola AI tunggal Eropa.

Hal menarik adalah, kantor ini akan menjadi pusat keahlian AI di seluruh Uni Eropa dengan melibatkan berbagai pakar multi disiplin dan memainkan peran penting implementasi UU AI Eropa.

Berdasarkan laporan Future of Life Institute “The AI Office: What is it, and how does it work? (21/3/ 2024), Kantor AI akan berada di bawah Direktorat Jenderal Jaringan Komunikasi, Konten dan Teknologi (DG CNECT).

Kantor AI Eropa memiliki tugas dan fungsi:

Pertama, memantau, mengawasi, dan menegakkan persyaratan UU AI pada model dan sistem AI tujuan umum (General purpose AI system atau GPAI).

Tugas ini mencakup menganalisis risiko sistemik yang muncul dan tidak terduga yang berasal dari pengembangan dan penerapan GPAI.

Kantor AI akan memantau penerapan aturan oleh pengembang GPAI, dan mengharuskan mereka mengambil tindakan perbaikan jika terjadi pelanggaran.

GPAI dikenal sebagai AI tujuan umum atau yang disebut sebagai model dasar (foundation model). AI model ini mampu melakukan berbagai tugas umum seperti sintesis teks, manipulasi gambar, dan pembuatan audio seperti yang dilakukan GPT-3 dan GPT-4 OpenAI, model dasar yang mendukung agen obrolan percakapan ChatGPT (Elliot Jones-Ada Lovelace Institute, 17/7/2023).

Kedua, kantor AI akan mengawasi kepatuhan sistem GPAI ketika digunakan secara langsung dalam konteks AI berisiko tinggi dan diduga terdapat ketidakpatuhan. Kantor AI akan bekerja sama dengan otoritas pengawasan pasar dalam menilai kepatuhan terhadap regulasi.

Ketiga, kantor AI Eropa juga memiliki fungsi strategis untuk mengevaluasi kemampuan, evaluasi model, dan menyelidiki potensi pelanggaran dan ketidakpatuhan.

Keempat, dalam upaya memfasilitasi kepatuhan penyedia model GPAI, dengan tetap mempertimbangkan perspektif mereka, kantor AI akan membuat kode praktik sukarela untuk mendorong kepatuhan dan harmonisasi.

Kelima, kantor AI berperan sebagai pemimpin dalam kerja sama internasional di bidang AI. Hal lainnya adalah memperkuat koordinasi dan kerja sama antara Komisi Eropa, dan komunitas ilmiah, termasuk panel ilmiah yang terdiri dari para ahli independen.

Penegakan hukum

Dalam rangka penegakan hukum, kantor AI Eropa berperan sebagai berikut:

Pertama, melakukan investigasi bersama dan bertindak sebagai Sekretariat Dewan AI, yaitu forum antarpemerintah untuk koordinasi antarregulator nasional.

Kedua, sebagai "regulatory sandbox", di mana perusahaan dapat menguji sistem AI dalam lingkungan yang terkendali. Kantor AI juga akan memberikan informasi untuk membantu pelaku bisnis mematuhi peraturan.

Ketiga, mendukung penegakan hukum terkoordinasi terhadap AI yang dilarang dan berisiko tinggi.

Keempat, menyederhanakan komunikasi antarbadan-badan sektoral dan otoritas nasional, dan menciptakan basis data terpusat. Khususnya ketika model atau sistem GPAI diintegrasikan ke dalam sistem AI yang berisiko tinggi.

Kantor ini akan memastikan koordinasi pengawasan untuk sistem AI yang termasuk dalam AI Act serta Digital Services Act (DSA) dan Digital Markets Act (DMA).

Kelima, bertindak sebagai Sekretariat Dewan AI dan sub-kelompoknya. Memberikan dukungan administratif kepada forum penasihat, dan panel ilmiah yang terdiri dari para ahli independen, termasuk mengatur pertemuan dan menyiapkan dokumen yang relevan.

Kantor AI Eropa adalah contoh model kelembagaan yang tidak hanya berfungsi membuat panduan, mendorong perkembangan AI, melakukan pengawasan, proses penegakan hukum terhadap mereka yang melanggar UU AI.

Keberadaan kantor AI Eropa dan EU AI Act disebut akan menjadi model bagi berbagai negara lain. Mereka menghadapi perkembangan AI dengan langkah sistemik regulatif disertai langkah progresif secara institusional.

Hal ini penting juga diantisipasi oleh Indonesia. Kehadiran regulasi dan institusi atau unit khusus dengan pendekatan preventif antisipatif, diperlukan untuk meminimalisasi dampak di satu sisi, dan optimalisasi manfaat AI di sisi lain.

Untuk tidak menambah beban negara dalam pembentukan lembaga baru, unit AI bisa diintegrasikan menjadi bagian atau menambah fungsi dari institusi yang selama ini menjadi regulator teknologi digital nasional.