Tanggung Jawab Hukum dan Kiat Menghindari Halusinasi AI

JAGAT teknologi digital memang istimewa. Selain melahirkan beragam invensi dan kekayaan intelektual, mengubah prinsip-prinsip hukum, juga kaya akan istilah baru.

Terminologi itu secara bebas merdeka diserap dari berbagai disiplin ilmu lain, contoh yang tengan trending topic adalah istilah halusinasi AI (AI hallucination).

Gara-gara memiliki konotasi baru yang dikaitkan dengan AI, kata 'halusinasi' sukses dinobatkan sebagai kata terbaik tahun ini “The Cambridge Dictionary World of The Year 2023”.

Halusinasi secara konservatif adalah keadaan saat seseorang mendengar, melihat, mencium, atau merasakan sesuatu yang tampak nyata, tetapi hanya ada dalam pikiran (National Health Service UK, 2022).

Halusinasi tentu bisa terjadi pada manusia, makhluk yang tidak hanya memiliki logika, tapi juga menggunakan panca indera. Namun istilah ini menjadi istimewa, saat dikaitkan dengan "prilaku" AI, sistem teknologi yang tak memiliki emosi dan nir-hati nurani.

Fenomena

Istilah “AI hallucination” dalam praktik terjadi saat luaran AI sangat berbeda dari data yang dilatihkan.

Baca juga: Halusinasi AI dan Pentingnya Regulasi

Informasi yang bisa salah dan menyesatkan itu tersusun dengan bahasa yang runtut, frasa dan kalimat “logis sistematis” dan nyaris sempurna layaknya data berbasis fakta.

Pengguna tentu bisa terkecoh. Apalagi setelah pertanyaan diulangi beberapa kali, platform AI generatif itu, misalnya, tetap pada jawaban sama, kadang pakai "ngotot" pula.

Jan Ulrych dalam tulisannya “Data Lineage Sheds Light on Generative AI’s Hallucination Problem” (18/8/2023), menyatakan bahwa kejadian halusinasi AI generatif, bergantung pada data yang dilatihkan. Karena data ini yang digunakan untuk membangun idenya.

Menurut dia, dibutuhkan data berkualitas tinggi untuk menghasilkan informasi berkualitas tinggi.

Ia mengingatkan, halusinasi terjadi karena pada dasarnya sifat algoritma adalah menghasilkan luaran berdasarkan probabilitas dan statistik, bukan pemahaman sebenarnya tentang konten.

Jika kita cermati fenomena ini juga kemungkinan terkait dengan model dan struktur pertanyaan yang diajukan pengguna. Reaksi AI, seringkali berbeda ketika konten yang sama diajukan dengan model dan struktur frasa yang berbeda.

Rob Waugh, seorang penulis teknologi digital, dalam tulisannya berjudul “Breakthrough offers a new way to stop AI 'hallucinating' and making up facts 14/11/2023”, menyatakan, bahwa sebuah terobosan teknologi, dapat membantu mengatasi masalah halusinasi AI.

Rob menyebut teknik baru, yang disebut Prediction-powered inference (PPI) untuk mengoreksi luaran model. PPI bisa memperbaiki kesalahan yang mungkin terjadi.

Sementara itu, Michael Jordan, profesor teknik elektro dan ilmu komputer dan statistik terkemuka di Universitas California Berkeley, mengatakan bahwa model-model ini dapat menjawab banyak pertanyaan.

Namun demikian, kita tidak tahu pertanyaan mana yang dijawab dengan baik dan mana yang dijawab dengan buruk.

Berbagai bias ini muncul dari data yang mereka latih, umumnya merupakan penelitian ilmiah yang sudah ada, dan mungkin tidak memiliki fokus sama dengan penelitian saat ini.

Profesor Jordan melanjutkan, dalam persoalan ilmiah, kita sering tertarik pada fenomena yang berada di antara yang diketahui dan yang tidak diketahui.

Seringkali, tidak banyak data dari masa lalu yang berada pada kondisi tersebut. Hal ini membuat model AI generatif semakin cenderung "berhalusinasi" dan menghasilkan luaran yang tidak realistis.

Ada laporan menarik yang dirilis National Library of Medicine Bethesda, yang dilakukan oleh Sai Anirudh Athaluri at all.

Para peneliti melakukan riset halusinasi AI pada ChatGPT. Sebanyak 178 referensi yang terdaftar pada ChatGPT diverifikasi dalam penelitian ini.

Analisis statistik dilakukan oleh lima peneliti yang memasukkan datanya ke dalam Google Form. Hasil riset menunjukan, dari 178 referensi yang dianalisis, 69 referensi tidak memiliki Digital Object Identifier (DOI), dan 28 referensi tidak muncul di pencarian Google dan juga tidak memiliki DOI.

Peneliti menyimpulkan, kemampuan ChatGPT untuk menghasilkan referensi yang dapat diandalkan untuk topik penelitian, kemungkinan dibatasi oleh ketersediaan DOI, dan aksesibilitas artikel online.

Beberapa kiat

Harvard Business School, salah satu institusi terdepan di bidang ini, membagikan kiat untuk menghindari halusinasi AI.

Melalui publikasinya "How Can We Counteract Generative AI’s Hallucinations?" (2023), Profesor Karim Lakhani, Ketua Digital, Data, Design Institute Harvard membagikan kiat-kiat untuk meminimalisasi hal tersebut.

Guru Besar terkenal itu menyebut, ChatGPT tidak memiliki mekanisme pengecekan fakta bawaan untuk tanggapannya berdasarkan pola data.

ChatGPT, menurut Karim, dapat “berhalusinasi” dan memberikan tanggapan yang secara faktual salah atau menyesatkan. Respons AI generatif juga sangat dipengaruhi formula pertanyaan atau instruksi pengguna.

Oleh karena itu, pengguna dapat mengambil beberapa langkah untuk minimalisasi halusinasi dan misinformasi saat berinteraksi dengan ChatGPT atau platform AI generatif lainnya melalui pertanyaan atau perintah yang cermat dan formula sistemik.

Karim Lakhani mengintroduksi beberapa langkah untuk meminimalisasi halusinasi AI yang dapat dirangkum sebagai berikut:

Pertama, saat meminta informasi faktual, buat instruksi secara eksplisit dan spesifik, agar AI menunjukan sumber atau bukti yang dapat dipercaya, untuk mendukung jawaban yang diberikan.

Ia mencontohkan, kita dapat bertanya, “dari mana sumber informasi tersebut?” atau “dapatkah memberikan bukti untuk mendukung jawaban Anda?”

Hal ini dapat mendorong model untuk memberikan informasi yang lebih andal dan dapat diverifikasi.

Kedua, gunakan beberapa perintah atau penyempurnaan berulang dan petunjuk tambahan jika respons awal dari model tampak meragukan atau tidak memadai. Penyempurnaan percakapan berulang dapat membantu memperoleh hasil lebih baik.

Pengguna juga bisa meminta penjelasan atau alasan kepada chatbot dimaksud. Bisa juga meminta chatbot memberikan penjelasan langkah demi langkah.

Ketiga, periksa kembali informasi secara mandiri. Guru besar terkenal ini menyarankan agar jangan hanya mengandalkan tanggapan model.

Memeriksa fakta dan memverifikasi informasi secara mandiri menggunakan sumber atau referensi terpercaya secara bertanggung jawab harus dilakukan.

Informasi referensi silang, dapat membantu mengidentifikasi dan memperbaiki kesalahan informasi yang dihasilkan oleh model.

Model AI generatif pada dasarnya adalah buatan manusia, sehingga mencerminkan bias yang sudah ada sebelumnya dan dapat menimbulkan dampak yang tidak diinginkan.

Tanggung jawab hukum

Kerap muncul pertanyaan, siapa yang harus bertanggung jawab jika sistem AI membuat luaran halusinasi atau melakukan kesalahan.

Setidaknya ada beberapa subyek yang disebut, yakni mulai dari pengguna, pemrogram, pemilik, atau platform AI itu sendiri?

Untuk menentukan subyek yang harus bertanggung jawab tidaklah mudah, jika tidak ada regulasi spesifik tentang AI yang mengaturnya. Kekosongan hukum akan berdampak pada sulitnya melakukan kualifikasi kesalahan berdasarkan obyek kasus demi kasus.

Menggunakan luaran AI saat ini, juga erat kaitannya dengan tanggung jawab etika. Fenomena halusinasi AI, memberikan kewajiban kepada penggunanya untuk berhati-hati dan tetap berpegang pada etika dan hukum.

Baca juga: Kontroversi Artificial Intelligence dan Penegakan Hukum

Terkait tanggung jawab hukum, kita harus mengambil pelajaran dari kasus halusinasi AI di pengadilan Manhattan AS. Di Pengadilan AS itu, hakim menghukum pengacara yang tidak melakukan pemeriksaan luaran AI dengan cermat.

Kekosongan regulasi AI tidak boleh dibiarkan terus berlangsung. Regulasi efektif dan mengikat, diperlukan untuk memberikan kepastian hak, kewajiban dan tanggung jawab berbagai subyek hukum terkait.