Peringatan tentang AI yang Pintar Menipu dan Bahayanya bagi Manusia

KOMPAS.com - Kecerdasan buataan (artificial intelligence/AI) dibuat agar dapat memudahkan berbagai pekerjaan. Akan tetapi, baru-baru ini peneliti dari Massachusetts Institute of Technology (MIT) memperingatkan bahwa AI bisa berbalik mengancam manusia lewat tipu muslihat. 

Alasannya, AI dapat belajar dan mampu melakukan penipuan, alias upaya sistematis untuk memberi keyakinan palsu kepada orang untuk mencapai hasil berbeda dari apa yang dikatakan. 

Sebuah studi yang dilakukan oleh para peneliti MIT tersebut mengungkapkan bahwa kecerdasan buatan tipe Large Language Model (LLM) dan sistem AI lainnya dapat belajar teknik-teknik untuk mengelabui orang, misalnya manipulasi dan berbuat curang.

Baca juga: Riset: Bos-bos Perusahaan di Dunia Khawatir soal Risiko AI

Dalam laporan studi yang dipubikasikan di jurnal Patterns itu, disebutkan bahwa AI yang dijadikan subyek penelitian sebenarnya tidak dengan sengaja dilatih untuk menipu. Namun, AI kerap belajar dan menggunakan penipuan sebagai sarana mencapai tujuan.

"Para pengembang AI tidak tahu pasti apa persisnya yang menyebabkan perilaku negatif di AI seperti kecenderungan untuk menipu," ujar Dr. Peter S Park, salah satu peneliti dalam studi tersebut.

"Secara umum, kami pikir kecurangan AI terjadi karena strategi itulah yang dipandang (oleh AI) paling bagus untuk memberi hasil memuaskan dalam tugas pelatihannya. Penipuan membantu mereka mencapai tujuan," imbuh Park.

AI pakar tipu muslihat

Salah satu AI yang diamati oleh para peneliti MIT adalah Cicero yang dikembangkan oleh Meta, perusahaan induk Facebook. Cicero menunjukkan perilaku menarik ketika memainkan game strategi, Diplomacy.

Meta mengeklaim bahwa Cicero adalah "AI pertama yang bisa bermain setingkat dengan manusia". Berdasarkan penelitian MIT, klaim itu ternyata ada benarnya. Cicero bahkan disebut berada di antara 10 persen pemain terbaik dalam game tersebut.

Namun, Cicero mencapai puncak dengan cara culas dan gemar menikam dari belakang. Menurut Park, Cicero membangun aliansi dengan pemain-pemain lain.

"Namun, ketika aliansi tersebut tak lagi berguna untuk mencapai tujuannya memenangkan permainan, Cicero secara sistematis mengkhianati para sekutunya," ujar Park.

Menurut studi, Meta sebenarnya berhasil membuat Cicero jadi pemain andal di game Diplomacy, tapi gagal melatihnya bermain jujur. Alih-alih demikian, para peneliti MIT menjuluki bahwa Cicero menjadi "pakar tipu muslihat".

Baca juga: Karyawan Tertipu Deepfake, Perusahaan Rugi Rp 403 Miliar

Lain lagi kelakuan AlphaStar, AI dari DeepMind yang dimiliki oleh Google, ketika bermain game real time strategy (RTS) StarCraft 2.

AlphaStar suka memanfaatkan fog of war (area permainan yang tidak terlihat karena tidak ada unit pemain di sana) untuk berpura-pura melancarkan serangan ke satu daerah. Padahal ada serangan sebenarnya yang lebih besar ditujukan ke daerah lain.

Lalu ada juga AI lain buatan Meta, Pluribus, yang bisa sukses menggertak pemain lain dalam permainan poker sehingga menyerah (fold). Padahal, deretan kartu Pluribus sebenarnya payah, tapi sang AI sukses menakut-nakuti. 

Bisa pura-pura baik

Tipu muslihat AI tidak terbatas hanya di dalam game saja karena sistem-sistem AI lain yang "dilatih untuk bernegosiasi dalam transaksi ekonomi", menurut studi MIT, belajar untuk menyembunykan niat mereka yang sebenarnya agar mendapat keuntungan.