OpenAI Digugat gara-gara ChatGPT Salah Info

KOMPAS.com - OpenAI, perusahaan di balik chatbot ChatGPT, digugat dengan tuduhan pencemaran nama baik.

Gugatan itu dilayangkan oleh warga negara bagian Georgia bernama Mark Walters ke Pengadilan Wilayah Gwinnett, Amerika Serikat.

Menurut Walters, ChatGPT bersalah karena menuduhnya menggelapkan dana senilai lebih dari 5 juta dollar AS (Rp 74,4 miliar), dari organisasi nirlaba The Second Amendment Foundation (SAF). Padahal, Walters yang bekerja sebagai penyiar radio tak pernah melakukan hal tersebut.

"Tuduhan ChatGPT tentang Walters, salah dan jahat, diungkapkan dalam bentuk cetak, tulisan dan gambar atau simbol, cenderung merusak reputasi Walters dan membuatnya dibenci, dihina atau diolok publik," tertulis dalam dokumen yang dilayangkan Walters ke pengadilan.

Baca juga: Riset: ChatGPT Terkenal, tapi Tak Banyak Dipakai Warga AS

Kasus ini bermula dari seorang jurnalis bernama Fred Riehl yang meminta ChatGPT untuk meringkas sebuah kasus yang dipaparkan dalam dokumen berformat PDF. Kasus ini terkait dengan organisasi nirlaba SAF tadi.

Saat itu, Riehl juga menautkan tautan ke dokumen PDF online dari kasus tersebut.

Setelah diproses, ChatGPT kemudian menghasilkan rangkuman kasus tersebut. Beberapa ringkasan ChatGPT memang sesuai, tetapi beberapa poin lainnya keliru dan menuduh Walters dengan tuduhan palsu.

Menurut rangkuman ChatGPT, Walters adalah bendahara dan kepala keuangan di SAF. Padahal, Walters sama sekali tidak memiliki hubungan apa pun dengan SAF. Selain itu, kasus yang sedang diteliti oleh Riehl juga tidak mencatutkan nama Walters.

MobileSyrup Ilustrasi chatbot ChatGPT

Riehl sebenarnya tidak pernah memublikasikan informasi palsu yang dihasilkan chatbot itu, tetapi mengecek kebenaran ringkasannya ke pihak lain. Pada akhirnya informasi ini sampai ke telinga Walters.

Tak diketahui bagaimana ChatGPT bisa mengakses data eksternal, termasuk dari tautan yang disertakan Riehl. Pasalnya, diperlukan plugin tambahan bagi ChatGPT untuk menjangkaunya.

Outlet media The Verge mencoba hal yang sama dengan Riehl, tetapi tidak berhasil. ChatGPT hanya menunjukkan keterangan "Maaf, tetapi sebagai model berbasis teks AI, saya tidak memiliki kemampuan untuk mengakses atau membuka file khusus PDF atau dokumen eksternal lainnya".

Baca juga: Pakai ChatGPT untuk Tangani Kasus Hukum, Pengacara Ini Malah Terancam Sanksi

ChatGPT sendiri memang tidak bisa sepenuhnya membedakan mana yang benar dan salah. Untuk itu, OpenAI menyertakan disclaimer di laman utama ChatGPT bahwa "terkadang (sistem) dapat menghasilkan informasi yang keliru".

Adapun terkait kasus ini, OpenAI belum memberikan tanggapan.

Sementara itu, Walters menuntut ganti rugi terhadap OpenAI. Namun, nilai ganti ruginya baru akan ditetapkan di persidangan, dihimpun KompasTekno dari The Register, Selasa (13/6/2023).