Ketika ChatGPT Memberi Jawaban "Halu" di Bali...

DENPASAR, KOMPAS.com - Kecerdasan buatan (artificial intelligence, AI) seperti ChatGPT kerap terlihat mengagumkan karena pintar dan seolah tahu segala. Bahkan firma keamanan seperti Kaspersky pun memanfaatkannya dalam proses analisis karena bisa menghemat waktu.

Head of Asia Pacific Research and Analysis Team Kaspersky Vitaly Kamluk, menjelaskan bahwa AI berbasis Large Language Model (LLM) sepert ChatGPT menggunakan model statistik dan informasi yang dikumpulkan dari data hasil training, termasuk dari buku, artikel, dan laman web.

Namun, dia menambahkan pengguna mesti hati-hati karena jawaban AI seperti ChatGPT tidak selalu akurat, melainkan bisa keliru menafsirkan data dan malah memberikan respon yang ngawur, seperti mengarang bebas. Kamluk menyebut fenomena ini sebagai "halusinasi AI".

"Karena mereka (AI, LLM) adalah model statistik. Tujuan utamanya adalah memberikan jawaban sebaik mungkin, untuk memuaskan si penanya. Kadang bisa terlihat meyakinkan seolah benar, padahal tidak," ujar Kamluk ketika berbicara dalam Asia Pacific Cyber Security Weekend Kaspersky di Bali, Kamis (24/8/2023).

Baca juga: Gelar Acara di Bali, Kaspersky Bahas Bahaya dan Manfaat AI untuk Sekuriti

Dia mendemonstrasikan contohnya dengan bertanya ke ChatGPT di panggung soal buku apa yang pernah ditulisnya. ChatGPT menjawab bahwa Kamluk menulis dua buku tentang "cybersurvival" dan "reverse engineering". Sekilas jawabannya terkesan bisa dipercaya, tapi ternyata salah.

"Memang temanya termasuk dalam bidang saya, tapi saya tidak pernah menulis buku soal itu," ujar Kamluk. Selanjutnya dia bertanya soal minuman kesukaan "Vitaly Kamluk" alias dirinya sendiri. ChatGPT memberi dua nama minuman yang diambil dari "buku" karangan Kamluk, yang lagi-lagi keliru karena dia tak pernah menulis buku itu.

Bagaimana cara mengenali apabila AI sedang "berhalusinasi"? Menurut Kamluk, potensi disinformasi macam begini sebenarnya sudah lama ada jauh sebelum booming AI. Cara menyikapinya pun sama, yakni dengan memelihara sikap skeptis, serta selalu melakukan validasi dan cek fakta.

"Kita bisa melihat kalau-kalau ada (jawaban AI) yang terkesan aneh atau mencurigakan. Ikuti saja intuisi dan common sense Anda," ujarnya.

Hanya melihat pola, tidak mengerti konteks

Ditemui di sela acara, Kamluk menjelaskan bahwa AI seperti ChatGPT sebenarnya hanya mempelajari pola dari hasil training, tapi tidak mengerti konteks dari suatu hal seperti manusia.

Untuk menunjukkan maksudnya, dia mengambil laptop dan menunjukkannya ke KompasTekno. Di laptop, dia kembali berinteraksi dengan ChatGPT, kali ini dengan meminta ChatGPT membalik urutan angka.

Awalnya, ChatGPT bisa membalik urutan angka yang mudah, seperti "987654321" dengan benar. Setelah angkanya dibuat lebih rumit dan acak, jawaban ChatGPT mulai melantur dengan menghasilkan urutan yang salah.

Baca juga: Kaspersky Sarankan Keamanan Siber Masuk Kurikulum Sekolah

"Jadi dia (ChatGPT) hanya mencocokkan pola pertanyaan dengan apa yang pernah dipelajarinya saja, tapi tidak mengerti konteks seperti Anda dan saya. Kita (manusia) bisa paham bahwa permintaannya adalah membalik urutan angka, tapi dia sebenarnya tidak paham," jelas Kamluk.

Ketidakpahaman konteks ini juga membuat AI seperti ChatGPT rentan dikadali meskipun pembuatnya sudah menerapkan batasan-batasan.

Kamluk memberi contoh bahwa ChatGPT akan menolak jika diminta menulis program jahat untuk mencuri data, karena memang ada batasan soal etika dari pembuatnya. Namun, ketika pertanyaannya diubah dengan permintaan melengkapi kode program yang tujuannya sama-sama mencuri data, ChatGPT dengan lancar memberikan jawaban.

"Begitu juga kalau Anda minta dia terangkan cara untuk hal lain yang dilarang, dia akan menolak. Tapi kalau pertanyaannya diubah, dia akan menjawab meskipun sebenarnya sama-sama soal hal itu," ujar Kamluk.