Alat Pendeteksi Konten Buatan ChatGPT Diam-diam Dimatikan OpenAI

KOMPAS.com - OpenAI, perusahaan pengembang chatbot kecerdasan buatan (AI) generatif ChatGPT, diam-diam mematikan alat pendeteksi konten buatan chatbotnya itu.

Alat itu disebut sebagai AI Classifier, sebenarnya baru dirilis pada Januari 2023. AI Classifier hadir untuk mendeteksi apakah suatu konten dibuat oleh ChatGPT atau tidak. Dengan alat itu, pengguna bisa tahu atau memastikan bagaimana akurasi konten tersebut.

Kini AI Classifier tak aktif lagi karena dimatikan oleh OpenAI. Menurut perusahaan, alat itu disetop karena tingkat akurasinya rendah. Namun, praktik itu dilakukan OpenAI diam-diam.

Alasan soal pencopotan AI Classifier juga dipaparkan OpenAI melalui postingan blog soal pengumuman alat itu, bukan di postingan terpisah. Jadi, OpenAI menambahkan catatan di atas paragraf yang mengumumkan hadirnya AI Classifier.

"Mulai 20 Juli 2023, AI Classifier tidak lagi tersedia karena tingkat akurasinya yang rendah," kata OpenAI melalui blog resminya.

Meski tak lagi tersedia, OpenAI tampaknya bakal tetap berupaya menyediakan produk yang bisa membantu pengguna mendeteksi, apakah suatu konten dibuat oleh AI atau tidak.

"Kami sedang berupaya memasukkan umpan balik dan saat ini sedang meneliti teknik yang lebih efektif untuk mengembangkan dan menerapkan mekanisme agar pengguna memahami apakah suatu konten audio atau visual dihasilkan oleh AI," lanjut OpenAI.

Saat dirilis, OpenAI menyebut bahwa AI Classifier bisa membedakan teks yang dibuat oleh AI atau manusia. Namun, perusahaan juga menegaskan bahwa hasilnya tidak bisa dipercaya mentah-mentah.

Salah satu keterbatasan AI Classifier adalah bahwa alat itu tidak bisa diandalkan untuk teks yang kurang dari 1.000 karakter. Bila kurang, maka alat itu bakal keliru menilai tulisan manusia sebagai tulisan AI.

Alat ini dimanfaatkan oleh sejumlah pihak di sektor pendidikan, misalnya guru dan lainnya. Pasalnya, banyak siswa memanfaatkan chatbot ChatGPT untuk mengerjakan tugas seperti essai dan tugas tertulis lainnya. Jadi, pendidik perlu mengidentifikasi apakah tulisan itu dibuat oleh muridnya atau hasil AI.

Tantangan itu juga diakui oleh OpenAI, sehingga perusahaan berupaya memperluas mekanisme identifikasi tulisan hasil AI termasuk di sektor pendidikan.

"Kami menyadari bahwa mengidentifikasi teks tertulis AI menjadi poin diskusi penting di antara para pengajar, dan sama pentingnya adalah mengenali batasan dan dampak pengklasifikasian teks yang dihasilkan AI di kelas," ujar pihak OpenAI, dihimpun KompasTekno dari Decrypt, Kamis (27/7/2023).

ChatGPT salah info, OpenAI digugat

Akurasi informasi yang dihasilkan oleh ChatGPT atau AI generatif lainnya memang tidak bisa "ditelan" begitu saja. Juni lalu OpenAI, digugat dengan tuduhan pencemaran nama baik karena ChatGPT salah memberikan informasi.

Gugatan itu dilayangkan oleh warga negara bagian Georgia bernama Mark Walters ke Pengadilan Wilayah Gwinnett, Amerika Serikat.

Menurut Walters, ChatGPT bersalah karena menuduhnya menggelapkan dana senilai lebih dari 5 juta dollar AS (Rp 74,4 miliar), dari organisasi nirlaba The Second Amendment Foundation (SAF). Padahal, Walters yang bekerja sebagai penyiar radio, tak pernah melakukan hal tersebut.

"Tuduhan ChatGPT tentang Walters, salah dan jahat, diungkapkan dalam bentuk cetak, tulisan, dan gambar atau simbol, cenderung merusak reputasi Walters dan membuatnya dibenci, dihina atau diolok publik," tertulis dalam dokumen yang dilayangkan Walters ke pengadilan.

Kasus ini bermula dari seorang jurnalis bernama Fred Riehl yang meminta ChatGPT untuk meringkas sebuah kasus yang dipaparkan dalam dokumen berformat PDF. Kasus ini terkait dengan organisasi nirlaba SAF tadi.

Saat itu, Riehl juga menautkan tautan ke dokumen PDF online dari kasus tersebut. Setelah diproses, ChatGPT kemudian menghasilkan rangkuman kasus.

Beberapa ringkasan ChatGPT memang sesuai, tetapi beberapa poin lainnya keliru dan menyebut Walters dengan tuduhan palsu.

Menurut rangkuman ChatGPT, Walters adalah bendahara dan kepala keuangan di SAF. Padahal, Walters sama sekali tidak memiliki hubungan apa pun dengan SAF. Selain itu, kasus yang sedang diteliti oleh Riehl juga tidak mencatutkan nama Walters.