Saat AI Memberi Nasihat Sesat, Regulasi Kian Mendesak

Adalah kesalahan fatal bagi seseorang, ketika mengajukan gugatan, masih menggunakan UU lama luaran informasi ChatGPT. Padahal UU baru saja direvisi, misalnya.

Bukan manusia

AI bukan manusia. Tidak memiliki emosi dan pemahaman seperti manusia. AI hanya mencari pola, dan menghasilkan jawaban berdasarkan statistik dan probabilitas yang bertumpu pada data selama pelatihan.

Jika kita bertanya kepada chatbot GenAI, maka model akan merespons dengan membuat narasi jawaban dengan memilih kata, dan frasa yang paling sesuai. Model tidak memiliki emosi, apalagi instuisi dan pemahaman seperti manusia.

Penyebab jawaban halusinatif atau keliru, juga bisa berasal dari formula, dan model pertanyaan yang diajukan. Pertanyaan tak jelas, tidak detail dan tak fokus memberi ruang tafsir dan jawaban bias yang mungkin "membingungkan" model.

Kompleksitas Bahasa, atau ambiguitas pertanyaan juga menjadi penyumbang kesalahan jawaban, bahkan interpretasi yang salah.

Jika Chatbot GenAI diibaratkan kendaraan, maka analogi ini layak menjadi kekhawatiran. Kita tahu, untuk bisa mengendarai mobil, maka seseorang harus memiliki SIM, yang salah satu prasyaratnya adalah usia dewasa.

Bagaimana dengan chatbot AI? Dalam praktik, platform ini bisa dengan mudah dan lolos diakses dan digunakan oleh siapapun. Tak terkecuali anak-anak di bawah umur tanpa perlu prasyarat seperti “SIM”.

Sementara itu, penapis sistem, pengawasan orangtua, dan sekolah semakin landai, seiring penetrasi digital dan masifnya kepemilikan device digital tanpa kenal usia.

Jika orangtua saja bisa begitu rapuh seperti peristiwa tragis di Belgia, lalu bagaimana dengan anak-anak?

Perlu dipahami, pendekatan teknologi dan hukum saja tak cukup. Pendekatan ekosistem, sosial, budaya, agama, pengawasan orangtua dan keluarga menjadi keniscayaan.

Interaksi dan komunikasi luring secara intens dalam keluarga, perlu terus dibudayakan. Demikian juga pendekatan di sekolah dan kampus, agar semua pengguna “bijak dan cerdas” menggunakan AI menjadi hal yang perlu terus dilakukan.

Saya tak bosan-bosanya mengingatkan, tentang mendesaknya Regulasi terkait tanggung jawab AI (AI liability) dan etika penggunaannya. Negara dan kita semua, tidak boleh kecolongan demi masa depan negeri ini.