Alat Pendeteksi Konten Buatan ChatGPT Diam-diam Dimatikan OpenAI

KOMPAS.com - OpenAI, perusahaan pengembang chatbot kecerdasan buatan (AI) generatif ChatGPT, diam-diam mematikan alat pendeteksi konten buatan chatbotnya itu.

Alat itu disebut sebagai AI Classifier, sebenarnya baru dirilis pada Januari 2023. AI Classifier hadir untuk mendeteksi apakah suatu konten dibuat oleh ChatGPT atau tidak. Dengan alat itu, pengguna bisa tahu atau memastikan bagaimana akurasi konten tersebut.

Kini AI Classifier tak aktif lagi karena dimatikan oleh OpenAI. Menurut perusahaan, alat itu disetop karena tingkat akurasinya rendah. Namun, praktik itu dilakukan OpenAI diam-diam.

Alasan soal pencopotan AI Classifier juga dipaparkan OpenAI melalui postingan blog soal pengumuman alat itu, bukan di postingan terpisah. Jadi, OpenAI menambahkan catatan di atas paragraf yang mengumumkan hadirnya AI Classifier.

"Mulai 20 Juli 2023, AI Classifier tidak lagi tersedia karena tingkat akurasinya yang rendah," kata OpenAI melalui blog resminya.

Baca juga: Aplikasi ChatGPT Versi Android Resmi Meluncur, Indonesia Sudah Bisa Daftar

Meski tak lagi tersedia, OpenAI tampaknya bakal tetap berupaya menyediakan produk yang bisa membantu pengguna mendeteksi, apakah suatu konten dibuat oleh AI atau tidak.

"Kami sedang berupaya memasukkan umpan balik dan saat ini sedang meneliti teknik yang lebih efektif untuk mengembangkan dan menerapkan mekanisme agar pengguna memahami apakah suatu konten audio atau visual dihasilkan oleh AI," lanjut OpenAI.

Saat dirilis, OpenAI menyebut bahwa AI Classifier bisa membedakan teks yang dibuat oleh AI atau manusia. Namun, perusahaan juga menegaskan bahwa hasilnya tidak bisa dipercaya mentah-mentah.

Salah satu keterbatasan AI Classifier adalah bahwa alat itu tidak bisa diandalkan untuk teks yang kurang dari 1.000 karakter. Bila kurang, maka alat itu bakal keliru menilai tulisan manusia sebagai tulisan AI.

Alat ini dimanfaatkan oleh sejumlah pihak di sektor pendidikan, misalnya guru dan lainnya. Pasalnya, banyak siswa memanfaatkan chatbot ChatGPT untuk mengerjakan tugas seperti essai dan tugas tertulis lainnya. Jadi, pendidik perlu mengidentifikasi apakah tulisan itu dibuat oleh muridnya atau hasil AI.

Tantangan itu juga diakui oleh OpenAI, sehingga perusahaan berupaya memperluas mekanisme identifikasi tulisan hasil AI termasuk di sektor pendidikan.

"Kami menyadari bahwa mengidentifikasi teks tertulis AI menjadi poin diskusi penting di antara para pengajar, dan sama pentingnya adalah mengenali batasan dan dampak pengklasifikasian teks yang dihasilkan AI di kelas," ujar pihak OpenAI, dihimpun KompasTekno dari Decrypt, Kamis (27/7/2023).

Baca juga: Penyebab dan Cara Mengatasi Eror Unprocessable entity pada ChatGPT

ChatGPT salah info, OpenAI digugat

Akurasi informasi yang dihasilkan oleh ChatGPT atau AI generatif lainnya memang tidak bisa "ditelan" begitu saja. Juni lalu OpenAI, digugat dengan tuduhan pencemaran nama baik karena ChatGPT salah memberikan informasi.

Gugatan itu dilayangkan oleh warga negara bagian Georgia bernama Mark Walters ke Pengadilan Wilayah Gwinnett, Amerika Serikat.

Menurut Walters, ChatGPT bersalah karena menuduhnya menggelapkan dana senilai lebih dari 5 juta dollar AS (Rp 74,4 miliar), dari organisasi nirlaba The Second Amendment Foundation (SAF). Padahal, Walters yang bekerja sebagai penyiar radio, tak pernah melakukan hal tersebut.