Rumor Bapak ChatGPT Dipecat karena Bikin "Terminator", Microsoft Buka Suara

Pemecatan Sam Altman tersebut masih meninggalkan pertanyaan terkait alasan sebenarnya di balik pemecatan itu.

Beberapa laporan menyebut bahwa Sam dipecat berkenaan dengan masalah keamanan kecerdasan buatan (artificial intelligence/AI). Salah satu kabar yang mencuat, konon, Altman dipecat karena pengembangan AI super pintar Project Q* (dibaca Q-Star) yang disebut "berbahaya".

Q-Star adalah jenis kecerdasan buatan tipe Artificial General Intelligence (AGI) yang kepintarannya melebihi AI generatif seperti ChatGPT dan bisa menyaingi manusia.

Sebelum Altman didepak, dewan direksi OpenAI menerima surat yang dikirim oleh sejumlah karyawan perusahaan. Isinya, sebagaimana dilaporkan Reuters, antara lain berupa peringatan tentang bahaya pengembangan dan komersialisasi AGI.

Microsoft selaku investor penting dan terbesar di OpenAI buka suara soal hal tersebut.

Wakil ketua dan presiden Microsoft, Brad Smith mengatakan, pemecatan Sam Altman secara mendadak dua minggu lalu itu pada dasarnya bukanlah karena kekhawatiran keamanan AI dan pengembangan model AI "berbahaya".

"Saya kira bukan itu masalahnya. Saya pikir jelas ada perbedaan antara dewan direksi dan dewan lainnya," kata Smith, sebagaimana dilaporkan BBC.

Dalam laporan terpisah, Sam Altman juga ditanya soal alasan sebenarnya ia dipecat. Namun, ia masih bungkam dan hanya mengatakan bahwa dewan direksi OpenAI yang baru akan mengadakan peninjauan independen soal pemecatan ini.

"Tidak banyak yang ingin saya katakan saat ini. Namun, saya ingin belajar lebih banyak lagi," kata Altman.

Dalam posting X/Twitter baru-baru ini, Sam Altman mengatakan bahwa "jelas ada kesalahpahaman" dirinya dan anggota dewan.

Saat ditanya, apa saja kesalahpahaman tersebut, Altman hanya menjawab dengan mengatakan dirinya belum siap untuk membicarakan hal itu.

"Menurut saya, sangat penting untuk membiarkan proses peninjauan ini berjalan. Saya senang membicarakan apa pun yang bersifat prospektif. Dan saya membayangkan akan ada suatu saat di mana saya sangat senang membicarakan apa yang terjadi, tapi tidak sekarang," kata Altman.

Altman juga ditanya soal Project Q-Star yang disebut-sebut "berbahaya". Bos OpenAI itu hanya memastikan bahwa dirinya dan tim di OpenAI berkomitmen untuk mengembangkan AI dengan aman.

"Seperti apa yang telah kami katakan - hari ini, dua minggu lalu, bahkan tahun lalu, bahkan jauh sebelumnya - bahwa kami mengharapkan kemajuan teknologi AI akan terus pesat dan kami terus bekerja keras mencari cara untuk menjadikannya aman dan bermanfaat," kata Altman.

"Itu sebabnya kami bangun setiap hari. Itu sebabnya kami akan bangun setiap hari di masa mendatang (untuk mengembangkan AI dengan aman dan bermanfaat). Saya pikir kami sangat konsisten dalam hal itu," lanjut Altman, sebagaimana dihimpun KompasTekno dari The Verge, Senin (4/12/2023).

Q-Star adalah jenis kecerdasan buatan tipe Artificial General Intelligence (AGI) yang kepintarannya melebihi AI generatif seperti ChatGPT dan bisa menyaingi manusia.

Generative AI seperti ChatGPT dilatih menggunakan informasi yang sudah ada sebelumnya untuk menghasilkan prediksi jawaban berdasarkan bahan pelatihan tadi.

Semakin banyak data yang diberikan untuk training, semakin bagus jawabannya, meski tetap ada kemungkinan melantur dengan memberikan jawaban ngaco, atau biasa disebut "halusinasi AI". Sebab, generative AI tak punya kemampuan kognitif dan logika berpikir seperti manusia.

Beda halnya dengan Artificial General Intelligence. AGI mampu belajar aneka hal baru yang belum pernah dijumpai sebelumnya dan benar-benar bisa mengerti proses pemecahan masalah, atau dengan kata lain dapat berpikir dengan proses mirip otak manusia.

Dihimpun KompasTekno dari Reuters, AGI Q-Star yang dikembangkan OpenAI kabarnya sudah sampai pada tahapan bisa memecahkan persoalan matematika, tapi kemampuannya baru setara siswa sekolah dasar.

Meskipun demikian, hal tersebut dianggap sudah memberikan terobosan besar dalam hal kemampuan reasoning dan kognitif dari AGI Q-Star. Nantinya, AGI digadang-gadang bisa melakukan pekerjaan sains seperti ilmuwan.

Pengembangan AGI mengingatkan pada cerita film fiksi ilmiah "Terminator", di mana AI SkyNet yang mampu berpikir akhirnya menyadari keberadaan dirinya (self-aware), kemudian berbalik melawan dan membinasakan manusia penciptanya.

Potensi bahaya pengembangan AGI yang terlalu cepat dan kurang memperhatikan aspek keamanannya ini kabarnya menjadi salah satu poin warning dalam surat kepada direksi OpenAI, yang berujung pada pemecatan Altman.

Surat tersebut diduga dikirim oleh sejumlah peneliti OpenAI yang khawatir dengan pengembangan dan komersialisasi AGI tanpa pertimbangan matang untuk aspek keamanannya.

Dewan direksi OpenAI yang lama disinyalir kecewa terhadap Altman karena dianggap kurang transparan tentang pengembangan AGI yang ternyata sudah sampai tahap yang cukup jauh. Dia dinilai cenderung diam-diam soal ini.