Lembaga Pengawas dan Pemberi Sanksi Pelanggaran AI

Kantor AI akan memantau penerapan aturan oleh pengembang GPAI, dan mengharuskan mereka mengambil tindakan perbaikan jika terjadi pelanggaran.

GPAI dikenal sebagai AI tujuan umum atau yang disebut sebagai model dasar (foundation model). AI model ini mampu melakukan berbagai tugas umum seperti sintesis teks, manipulasi gambar, dan pembuatan audio seperti yang dilakukan GPT-3 dan GPT-4 OpenAI, model dasar yang mendukung agen obrolan percakapan ChatGPT (Elliot Jones-Ada Lovelace Institute, 17/7/2023).

Kedua, kantor AI akan mengawasi kepatuhan sistem GPAI ketika digunakan secara langsung dalam konteks AI berisiko tinggi dan diduga terdapat ketidakpatuhan. Kantor AI akan bekerja sama dengan otoritas pengawasan pasar dalam menilai kepatuhan terhadap regulasi.

Ketiga, kantor AI Eropa juga memiliki fungsi strategis untuk mengevaluasi kemampuan, evaluasi model, dan menyelidiki potensi pelanggaran dan ketidakpatuhan.

Keempat, dalam upaya memfasilitasi kepatuhan penyedia model GPAI, dengan tetap mempertimbangkan perspektif mereka, kantor AI akan membuat kode praktik sukarela untuk mendorong kepatuhan dan harmonisasi.

Kelima, kantor AI berperan sebagai pemimpin dalam kerja sama internasional di bidang AI. Hal lainnya adalah memperkuat koordinasi dan kerja sama antara Komisi Eropa, dan komunitas ilmiah, termasuk panel ilmiah yang terdiri dari para ahli independen.

Penegakan hukum

Dalam rangka penegakan hukum, kantor AI Eropa berperan sebagai berikut:

Pertama, melakukan investigasi bersama dan bertindak sebagai Sekretariat Dewan AI, yaitu forum antarpemerintah untuk koordinasi antarregulator nasional.

Kedua, sebagai "regulatory sandbox", di mana perusahaan dapat menguji sistem AI dalam lingkungan yang terkendali. Kantor AI juga akan memberikan informasi untuk membantu pelaku bisnis mematuhi peraturan.

Ketiga, mendukung penegakan hukum terkoordinasi terhadap AI yang dilarang dan berisiko tinggi.

Keempat, menyederhanakan komunikasi antarbadan-badan sektoral dan otoritas nasional, dan menciptakan basis data terpusat. Khususnya ketika model atau sistem GPAI diintegrasikan ke dalam sistem AI yang berisiko tinggi.

Kantor ini akan memastikan koordinasi pengawasan untuk sistem AI yang termasuk dalam AI Act serta Digital Services Act (DSA) dan Digital Markets Act (DMA).

Kelima, bertindak sebagai Sekretariat Dewan AI dan sub-kelompoknya. Memberikan dukungan administratif kepada forum penasihat, dan panel ilmiah yang terdiri dari para ahli independen, termasuk mengatur pertemuan dan menyiapkan dokumen yang relevan.

Kantor AI Eropa adalah contoh model kelembagaan yang tidak hanya berfungsi membuat panduan, mendorong perkembangan AI, melakukan pengawasan, proses penegakan hukum terhadap mereka yang melanggar UU AI.

Keberadaan kantor AI Eropa dan EU AI Act disebut akan menjadi model bagi berbagai negara lain. Mereka menghadapi perkembangan AI dengan langkah sistemik regulatif disertai langkah progresif secara institusional.

Hal ini penting juga diantisipasi oleh Indonesia. Kehadiran regulasi dan institusi atau unit khusus dengan pendekatan preventif antisipatif, diperlukan untuk meminimalisasi dampak di satu sisi, dan optimalisasi manfaat AI di sisi lain.

Untuk tidak menambah beban negara dalam pembentukan lembaga baru, unit AI bisa diintegrasikan menjadi bagian atau menambah fungsi dari institusi yang selama ini menjadi regulator teknologi digital nasional.