AI yang Dilarang

JIKA ada teknologi yang paling berpengaruh pada dekade terakhir ini, maka itulah Artificial Intelligence (AI).

Realitas ini juga menunjukan pentingnya keberadaan regulasi untuk mengendalikannya. Tak lain, agar AI dapat digunakan sebesar-besarnya untuk kebaikan dan memuliakan peradaban manusia.

UU AI Uni Eropa, yang telah disetujui Dewan Eropa, sebagai institusi politik tertinggi UE tahun ini, seolah menjawab keresahan yang pernah diungkapkan dan dimuat The Economist tahun lalu berjudul “The world wants to regulate AI, but does not quite know how” (24/10/2023).

Pertanyaan yang muncul saat itu adalah, bagaimana memastikan AI tidak menjadi alat untuk penyimpangan yang tidak terkendali. Dan bagaimana agar AI tidak bertentangan dengan kemanusiaan.

Disebutkan pula, berbeda dengan perdebatan kebijakan besar lainnya, persoalan AI seringkali dihadapkan pada kenyataan, di mana kita masih belum tahu apa jawaban yang tepat.

Setiap orang saat ini dengan mudah bersentuhan dengan AI, karena AI tidak lagi menjadi barang ekslusif. Platform AI di media sosial dan chatbot, bisa diakses dengan mudah oleh siapa pun.

Selama perhelatan KTT AI dunia, "AI For Good Global Summit" yang dibuka Sekjen PBB di Jenewa yang saya ikuti, realitas menunjukan bahwa AI telah menjadi salah satu teknologi paling berpengaruh.

Teknologi yang perilakunya paling mirip dengan manusia ini, telah merambah ke berbagai sektor, seperti kesehatan, pendidikan, keamanan, hingga transportasi, pemerintahan, penegakan hukum, pengadilan dll.

AI juga telah menjadi instrumen efektif platform digital e-commerce, dan media sosial.

Teknologi AI melahirkan tantangan etika dan hukum, ketertiban umum, keselamatan publik, dan keamanan yang signifikan. Oleh karenanya, menjadi relevan untuk mengatur bahwa tidak semua AI dapat digunakan.

Regulasi terkait hal ini, sangat diperlukan untuk melindungi hak asasi manusia dan mencegah penyalahgunaan. Artikel ini akan membahas AI apa saja yang dilarang dalam praktik.

Dilarang

Regulasi yang saat ini dijadikan rujukan internasional terkait jenis-jenis AI yang dilarang, terdapat pada "Article 5: Prohibited Artificial Intelligence Practices" UU AI Uni Eropa ( EU AI Act). Berikut ini rangkumannya.

Pertama, UU AI Uni Eropa melarang memasarkan, memberlakukan, atau menggunakan sistem AI dengan teknik subliminal atau manipulatif, yang melebihi kesadaran seseorang, dengan tujuan atau berakibat mendistorsi perilaku seseorang atau sekelompok orang (Art. 5(1)(a).

Penggunaan teknologi dan metode ini dianggap melanggar, karena dapat menghambat kemampuan seseorang membuat keputusan, dan menyebabkan mereka mengambil keputusan yang seharusnya tidak mereka ambil, yang berpotensi menyebabkan kerugian signifikan.

Kedua, EU AI Act melarang memasarkan, memberlakukan, atau menggunakan sistem AI yang mengeksploitasi kerentanan seseorang, atau kelompok tertentu, karena usia, disabilitas, atau situasi sosial dan ekonomi tertentu (Art. 5(1)(b)).

Eksploitasi semacam ini, yang biasanya dilakukan dengan tujuan atau berdampak mendistorsi perilaku yang bersangkutan, akan berpotensi menimbulkan kerugian signifikan.

Ketiga, regulasi melarang penggunaan sistem AI untuk evaluasi atau klasifikasi orang secara sosial, berdasarkan perilaku sosial mereka atau karakteristik pribadi lainnya yang diketahui, diinferensikan, atau diprediks (Art. 5(1)(c)).

Hukum melarang praktik AI semacam ini, jika hasilnya merupakan perlakuan merugikan yang tidak adil atau tidak proporsional terhadap perilaku sosial mereka.

Keempat, hukum juga melarang penggunaan sistem AI, yang digunakan untuk menilai atau memprediksi risiko seseorang melakukan pelanggaran kriminal, berdasarkan profil atau karakteristik pribadi mereka (Art 5(1)(d)).

Namun demikian perlu ditegaskan, larangan ini tidak berlaku untuk sistem AI yang digunakan untuk mendukung penilaian manusia terkait keterlibatan seseorang dalam aktivitas kriminal, berdasarkan fakta obyektif yang dapat diverifikasi.

Dengan demikian, maka larangan tidak berlaku dalam kaitannya jika terjadi penggunaan dalam rangka penegakan hukum oleh APH.

Kelima, larangan penggunaan sistem AI yang membuat atau memperluas basis data pengenalan wajah melalui pengumpulan gambar wajah yang tidak ditargetkan melalui internet, atau rekaman CCTV.

Kenapa hal ini dilarang? Praktik seperti ini dapat melanggar privasi dan bisa digunakan untuk tujuan tidak sah, sebagaimana diatur dalam Art 5(1)(e) .

Keenam, larangan penggunaan sistem AI untuk menginterpretasikan emosi seseorang di tempat kerja, dan institusi Pendidikan. Namun norma ini mengecualikan, jika penggunaannya untuk alasan medis atau keselamatan (Art 5(1)(f)).

Pasal ini tampak dimaksudkan agar penggunaan AI tidak melanggar pelindungan data pribadi, dan ruang-ruang privasi individu. Pasal ini juga diamanatkan untuk dan mencegah ekositem dan lingkungan yang nir-etik.

Ketujuh, terdapat pula larangan penggunaan sistem AI, yang diperuntukan mengkategorikan orang berdasarkan data biometrik mereka, dengan tujuan penilaian berbasis ras, opini politik, keanggotaan serikat pekerja, keyakinan agama, filosofis, atau kehidupan seksual (Art. 5(1)(g)).

Namun demikian, ditekankan dalam UU ini, larangan tidak mencakup pelabela, atau penyaringan dataset biometrik, yang diperoleh secara sah untuk tujuan penegakan hukum.

Kedelapan, larangan juga diterapkan untuk penggunaan AI yang dapat dimanfaatkan untuk mengidentifikasi Biometrik Jarak Jauh secara Real-time (Art 5(1)(h)).

Ketentuan ini, melarang penggunaan sistem identifikasi biometrik jarak jauh secara real-time, di tempat yang dapat diakses publik untuk tujuan penegakan hukum sekali pun. Pengecualian diberikan untuk kasus tertentu, seperti pencarian korban penculikan, atau ancaman teroris.

Namun demikian, secara limitatif EU AI Act memberikan pembatasan, bahwa penggunaan AI seperti ini harus mendapat persetujuan sebelumnya dari pengadilan (otoritas yudisial), atau otoritas administratif independen, yang keputusannya mengikat.

Urgensi Regulasi

Tujuan menetapkan adanya jenis-jenis AI yang dilarang dalam sebuah regulasi, adalah untuk memastikan bahwa pengembangan dan penggunaan AI ditujukan untuk kebaikan dan kemaslahatan umat manusia.

Pengaturan yang ketat terkait larangan penggunaan AI jenis-jesnis tertentu, menunjukan mendesaknya upaya mengatasi potensi penyalahgunaan AI yang mengancam umat manusia dan kemanusiaan.

Dalam konteks hukum, penting untuk memastikan bahwa perkembangan teknologi tidak mengorbankan hak-hak dasar individu.

Regulasi juga diperlukan untuk menghindari penyalahgunaan AI, dan memastikan bahwa teknologi ini digunakan secara etis dan bertanggung jawab, dengan tetap mendorong pengembangan AI itu sendiri.

Pendekatan hukum bagi Negara seperti Indonesia, yang mengedepankan produk hukum tertulis sebagai dasar kepastian menjadi penting.

Regulasi transformatif, yang dibentuk dengan memperhatikan unsur teknologi dan Lex Artificial Intelligence. Regulasi juga harus dibangun dengan pendekatan komparatif dan memperhatikan sungguh-sungguh aspek nonhukum.

Pembentukan dan implementasi regulasi dan pelaksanaannya nanti, tentu memerlukan kerja sama lintas disiplin dan institusi.

Pembuat kebijakan, pengembang teknologi, dan para pemangku kepentingan, harus bekerjasama untuk memastikan bahwa AI digunakan secara bertanggung jawab dan aman.

Kolaborasi bidang Teknologi, hukum dan bidang terkait lainnya, dalam menghadapi perkembangan spektakuler AI abad ini, adalah keniscayaan.