Alat Pendeteksi Konten Buatan ChatGPT Diam-diam Dimatikan OpenAI

"Tuduhan ChatGPT tentang Walters, salah dan jahat, diungkapkan dalam bentuk cetak, tulisan, dan gambar atau simbol, cenderung merusak reputasi Walters dan membuatnya dibenci, dihina atau diolok publik," tertulis dalam dokumen yang dilayangkan Walters ke pengadilan.

Kasus ini bermula dari seorang jurnalis bernama Fred Riehl yang meminta ChatGPT untuk meringkas sebuah kasus yang dipaparkan dalam dokumen berformat PDF. Kasus ini terkait dengan organisasi nirlaba SAF tadi.

Saat itu, Riehl juga menautkan tautan ke dokumen PDF online dari kasus tersebut. Setelah diproses, ChatGPT kemudian menghasilkan rangkuman kasus.

Beberapa ringkasan ChatGPT memang sesuai, tetapi beberapa poin lainnya keliru dan menyebut Walters dengan tuduhan palsu.

Menurut rangkuman ChatGPT, Walters adalah bendahara dan kepala keuangan di SAF. Padahal, Walters sama sekali tidak memiliki hubungan apa pun dengan SAF. Selain itu, kasus yang sedang diteliti oleh Riehl juga tidak mencatutkan nama Walters.