Kompas.com - 30/03/2016, 10:18 WIB
Penulis Oik Yusuf
|
EditorReza Wahyudi

Sayang, alih-alih mempelajari pola bahasa dan pemikiran generasi milenial seperti yang diinginkan, Tay justru banyak belajar hal-hal buruk.

Sebagian pengguna rupanya iseng “mengerjai” sang AI dengan melontarkan kata-kata berbau rasisme, diskriminasi, dan kebencian kepadanya.

Tay menyerap bahasa yang tak pantas digunakan dalam percakapan sehari-hari tersebut begitu saja, lalu memasukannya dalam kicauan. Kepribadiannya pun seakan berubah.

“Ada sebuah upaya terkoordinasi dari sejumlah pengguna untuk menyalahgunakan kemampuan Tay dalam berkomentar, sehingga dia memberikan respon dengan cara yang tidak seharusnya,” tulis Microsoft dalam sebuah pernyataan, mengenai nasib buruk yang menimpa Tay.

Dibesarkan oleh serigala

Pada awalnya, Tay hanya berkicau mengenai topik-topik ringan seperti menyatakan diri “cinta manusia” dan berbicara soal selfie dalam bahasa ala anak muda milenial (setidaknya menurut pemikiran Microsoft).

Ia juga mulanya membalas kata-kata tak pantas yang ditujukan kepadanya dengan candaan. Tapi, seiring dengan berulang dan makin banyaknya komentar negatif tersebut, bahasa Tay mulai berubah.

Memang, tweet bernada miring yang diunggah Tay sebenarnya bisa dibilang merupakan hasil “membebek” alias meniru kata-kata dari lawan bicara yang kemudian diunggah lagi dalam tweet sendiri.

Namun, hal tersebut paling tidak menunjukkan bahwa AI bisa mempelajari dan meniru kelakuan buruk manusia. Ibarat bocah polos, Tay menyerap “pelajaran” yang diperoleh tanpa peduli baik atau buruk, salah atau benar.

Kepala Lab CyberSecurity University of Louisville, Roman Yampolskiy, mengaku tak heran karena sistem AI yang dirancang untuk belajar dari penggunanya bakal menjadi cerminan dari perilaku para penguna tersebut.


“Sistem AI apapun yang belajar dari contoh buruk bisa berkelakuan tak pantas secara sosial,” ujar Yampolskiy, seperti dirangkum KompasTekno dari TechRepublic, Selasa (29/3/2016), “Seperti manusia yang dibesarkan oleh serigala saja.”

Senada dengan Yampolskiy, pendiri Unanimous AI Louis Rosenberg mengatakan bahwa Microsoft lupa membekali Tay dengan kemampuan untuk memilah-milah informasi.

Halaman Selanjutnya
Halaman:


Video Pilihan

Rekomendasi untuk anda
26th

Tulis komentarmu dengan tagar #JernihBerkomentar dan menangkan e-voucher untuk 90 pemenang!

Syarat & Ketentuan
Berkomentarlah secara bijaksana dan bertanggung jawab. Komentar sepenuhnya menjadi tanggung jawab komentator seperti diatur dalam UU ITE
Laporkan Komentar
Terima kasih. Kami sudah menerima laporan Anda. Kami akan menghapus komentar yang bertentangan dengan Panduan Komunitas dan UU ITE.

Terkini Lainnya

komentar di artikel lainnya
Close Ads
Lengkapi Profil
Lengkapi Profil

Segera lengkapi data dirimu untuk ikutan program #JernihBerkomentar.