AI yang Dilarang

JIKA ada teknologi yang paling berpengaruh pada dekade terakhir ini, maka itulah Artificial Intelligence (AI).

Realitas ini juga menunjukan pentingnya keberadaan regulasi untuk mengendalikannya. Tak lain, agar AI dapat digunakan sebesar-besarnya untuk kebaikan dan memuliakan peradaban manusia.

UU AI Uni Eropa, yang telah disetujui Dewan Eropa, sebagai institusi politik tertinggi UE tahun ini, seolah menjawab keresahan yang pernah diungkapkan dan dimuat The Economist tahun lalu berjudul “The world wants to regulate AI, but does not quite know how” (24/10/2023).

Pertanyaan yang muncul saat itu adalah, bagaimana memastikan AI tidak menjadi alat untuk penyimpangan yang tidak terkendali. Dan bagaimana agar AI tidak bertentangan dengan kemanusiaan.

Disebutkan pula, berbeda dengan perdebatan kebijakan besar lainnya, persoalan AI seringkali dihadapkan pada kenyataan, di mana kita masih belum tahu apa jawaban yang tepat.

Setiap orang saat ini dengan mudah bersentuhan dengan AI, karena AI tidak lagi menjadi barang ekslusif. Platform AI di media sosial dan chatbot, bisa diakses dengan mudah oleh siapa pun.

Selama perhelatan KTT AI dunia, "AI For Good Global Summit" yang dibuka Sekjen PBB di Jenewa yang saya ikuti, realitas menunjukan bahwa AI telah menjadi salah satu teknologi paling berpengaruh.

Teknologi yang perilakunya paling mirip dengan manusia ini, telah merambah ke berbagai sektor, seperti kesehatan, pendidikan, keamanan, hingga transportasi, pemerintahan, penegakan hukum, pengadilan dll.

AI juga telah menjadi instrumen efektif platform digital e-commerce, dan media sosial.

Teknologi AI melahirkan tantangan etika dan hukum, ketertiban umum, keselamatan publik, dan keamanan yang signifikan. Oleh karenanya, menjadi relevan untuk mengatur bahwa tidak semua AI dapat digunakan.

Regulasi terkait hal ini, sangat diperlukan untuk melindungi hak asasi manusia dan mencegah penyalahgunaan. Artikel ini akan membahas AI apa saja yang dilarang dalam praktik.

Dilarang

Regulasi yang saat ini dijadikan rujukan internasional terkait jenis-jenis AI yang dilarang, terdapat pada "Article 5: Prohibited Artificial Intelligence Practices" UU AI Uni Eropa ( EU AI Act). Berikut ini rangkumannya.

Pertama, UU AI Uni Eropa melarang memasarkan, memberlakukan, atau menggunakan sistem AI dengan teknik subliminal atau manipulatif, yang melebihi kesadaran seseorang, dengan tujuan atau berakibat mendistorsi perilaku seseorang atau sekelompok orang (Art. 5(1)(a).

Penggunaan teknologi dan metode ini dianggap melanggar, karena dapat menghambat kemampuan seseorang membuat keputusan, dan menyebabkan mereka mengambil keputusan yang seharusnya tidak mereka ambil, yang berpotensi menyebabkan kerugian signifikan.

Kedua, EU AI Act melarang memasarkan, memberlakukan, atau menggunakan sistem AI yang mengeksploitasi kerentanan seseorang, atau kelompok tertentu, karena usia, disabilitas, atau situasi sosial dan ekonomi tertentu (Art. 5(1)(b)).