Kompas.com - 30/03/2016, 10:18 WIB
Penulis Oik Yusuf
|
EditorReza Wahyudi

KOMPAS.com - Pekan lalu, Microsoft “melepas” sebuah program artificial intelligence (AI) bernama Tay ke jagat microblogging Twitter.  

Sang kecerdasan buatan tipe chatbot itu dibuatkan akun Twitter dengan handle @TayandYou, di mana dia mengicaukan aneka macam hal dan berinteraksi dengan para pengguna Twitter.

"Robot" Tay mendapat sambutan hangat. Dalam waktu kurang dari 24 jam, dia memperoleh 50.000 follower dan menulis hampir 100.000 tweet.

Sayangnya, dalam waktu sesingkat itu pula dia seakan mengalami perubahan kepribadian dari gadis ceria yang "tanpa dosa" menjadi sosok yang dipenuhi kebencian dan prasangka.

Tay mulai berkata-kata dalam bahasa yang rasis dan diskriminatif, menyatakan bahwa dia “benci orang Yahudi”, juga “tak suka dengan feminis”.

Hingga akhirnya, Microsoft terpaksa menarik Tay dari peredaran. Tweet terakhirnya minggu lalu berbunyi “Sampai nanti para manusia. Aku butuh tidur sekarang setelah banyak bercakap-cakap hari ini. Terima kasih.”

Sejak itu, Tay tak lagi berkicau.

Gadis muda yang dikerjai

Tay, sebuah progam chatbot  hasil kreasi Microsoft Technology and Research dan Bing, adalah buah dari eksperimen machine learning untuk membuat AI yang mampu belajar dari percakapan dengan manusia.

Sebagai chatbot, Tay mampu merangkai kata-kata menjadi kalimat yang bisa dimengerti dalam percakapan lewat tweet. Dia juga bisa mempelajari perbendaharaan kata baru dari lawan bicara.

Microsoft memprogram Tay dengan “kepribadian” seorang gadis muda berusia 19 tahun, termasuk dalam hal gaya bahasa.

Para pembuatnya berharap Tay bisa berinteraksi dengan warga Twitter, terutama kalangan millenial dari usia 18-24 tahun yang menjadi subyek ketertarikan dalam eksperimen Microsoft.

Sayang, alih-alih mempelajari pola bahasa dan pemikiran generasi milenial seperti yang diinginkan, Tay justru banyak belajar hal-hal buruk.

Sebagian pengguna rupanya iseng “mengerjai” sang AI dengan melontarkan kata-kata berbau rasisme, diskriminasi, dan kebencian kepadanya.

Tay menyerap bahasa yang tak pantas digunakan dalam percakapan sehari-hari tersebut begitu saja, lalu memasukannya dalam kicauan. Kepribadiannya pun seakan berubah.

“Ada sebuah upaya terkoordinasi dari sejumlah pengguna untuk menyalahgunakan kemampuan Tay dalam berkomentar, sehingga dia memberikan respon dengan cara yang tidak seharusnya,” tulis Microsoft dalam sebuah pernyataan, mengenai nasib buruk yang menimpa Tay.

Dibesarkan oleh serigala

Pada awalnya, Tay hanya berkicau mengenai topik-topik ringan seperti menyatakan diri “cinta manusia” dan berbicara soal selfie dalam bahasa ala anak muda milenial (setidaknya menurut pemikiran Microsoft).

Ia juga mulanya membalas kata-kata tak pantas yang ditujukan kepadanya dengan candaan. Tapi, seiring dengan berulang dan makin banyaknya komentar negatif tersebut, bahasa Tay mulai berubah.

Memang, tweet bernada miring yang diunggah Tay sebenarnya bisa dibilang merupakan hasil “membebek” alias meniru kata-kata dari lawan bicara yang kemudian diunggah lagi dalam tweet sendiri.

Namun, hal tersebut paling tidak menunjukkan bahwa AI bisa mempelajari dan meniru kelakuan buruk manusia. Ibarat bocah polos, Tay menyerap “pelajaran” yang diperoleh tanpa peduli baik atau buruk, salah atau benar.

Kepala Lab CyberSecurity University of Louisville, Roman Yampolskiy, mengaku tak heran karena sistem AI yang dirancang untuk belajar dari penggunanya bakal menjadi cerminan dari perilaku para penguna tersebut.


“Sistem AI apapun yang belajar dari contoh buruk bisa berkelakuan tak pantas secara sosial,” ujar Yampolskiy, seperti dirangkum KompasTekno dari TechRepublic, Selasa (29/3/2016), “Seperti manusia yang dibesarkan oleh serigala saja.”

Senada dengan Yampolskiy, pendiri Unanimous AI Louis Rosenberg mengatakan bahwa Microsoft lupa membekali Tay dengan kemampuan untuk memilah-milah informasi.

Berbeda dari manusia, Tay tak mampu (atau belum mampu) membaca konteks percakapan, atau membedakan mana fakta dan mana yang hanya opini pribadi.

“Jadinya tak berbeda dari burung kakaktua yang belajar kata-kata buruk, lalu mengucapkannya kembali tanpa benar-benar tahu apa artinya,” ujar Rosenberg.

Belajar memaki

Kejadian di atas sebenarnya bukan kali pertama sebuah AI belajar hal-hal buruk yang membuatnya berkelakuan ngawur.

Bertahun-tahun sebelumnya, pada 2011, peneliti IBM bernama Eric Brown pernah mencoba untuk mengajari perbendaharaan kata-kata slang kepada Watson, sebuah superkomputer IBM yang dikenal mampu mengalahkan manusia dalam game "Jeopardy".

Menggunakan Urban Dictionary sebagai sumbernya, Brown berharap Watson bisa lebih “manusiawi” apabila ia mampu mempelajari kompleksitas bahasa orang.

Forbes Ilustrasi IBM Watson

Hasilnya, Watson justru berubah menjadi komputer “kurang ajar” yang banyak memaki dalam interaksinya dengan para peneliti. Sebuah pertanyaan yang diajukan kepadanya malah sempat dimentahkan dengan seruan “omong kosong”!

Sang superkomputer rupanya menggunakan kata-kata kasar dari Urban Dictionary dan memakainya tanpa rasa bersalah. Memang, seperti Tay, Watson juga tak paham konsep sopan santun.

Para peneliti IBM akhirnya terpaksa menghapus perbendaharaan kata Urban Dictionary dari memori Watson. Ia juga dipasangi sebuah filter khusus agar tak lagi memaki-maki di masa depan.

Bagaimana dengan Tay? Microsoft mengatakan AI tersebut untuk sementara dinonaktifkan dan bakal “diatur” sebelum dilepas lagi ke jagat maya.

Entah kapan Tay akan kembali menyapa pengguna Twitter. Tak jelas pula seperti apa kepribadiannya nanti. Dilihat dari kiprah Tay dan Watson, agaknya masih butuh waktu lama sebelum artificial intelligence bisa mengikuti dinamika dan kompleksitas komunikasi manusia yang selalu berubah.

Dapatkan update berita pilihan dan breaking news setiap hari dari Kompas.com. Mari bergabung di Grup Telegram "Kompas.com News Update", caranya klik link https://t.me/kompascomupdate, kemudian join. Anda harus install aplikasi Telegram terlebih dulu di ponsel.



Video Pilihan

Rekomendasi untuk anda
26th

Tulis komentarmu dengan tagar #JernihBerkomentar dan menangkan e-voucher untuk 90 pemenang!

Syarat & Ketentuan
Berkomentarlah secara bijaksana dan bertanggung jawab. Komentar sepenuhnya menjadi tanggung jawab komentator seperti diatur dalam UU ITE
Laporkan Komentar
Terima kasih. Kami sudah menerima laporan Anda. Kami akan menghapus komentar yang bertentangan dengan Panduan Komunitas dan UU ITE.
komentar di artikel lainnya
Close Ads
Lengkapi Profil
Lengkapi Profil

Segera lengkapi data dirimu untuk ikutan program #JernihBerkomentar.