Explainable AI: Karena Cerdas Butuh Alasan

DUA-tiga tahun belakangan ini, teknologi Kecerdasan Buatan atau Artificial Intelligence (AI) telah mengalami lompatan besar. Lompatan yang konon melebihi ekspektasi para pakar AI di seluruh dunia.

Teknologi seperti sekarang ini seharusnya baru akan kita dapatkan pada 2029. Setidaknya menurut pakar AI, Ray Kurzwell pada wawancaranya tahun 2017.

Saat ini, AI mampu melakukan hal-hal yang tak terduga dan seringkali luar biasa. Begitu dahsyatnya perkembangan generative AI saat ini, ia tampak seperti anak ajaib yang tumbuh dan berkembang dengan cepat, melakukan hal-hal yang bahkan orang dewasa sulit untuk melakukannya.

Pada awal tahun ini, ada seruan yang menggema di seluruh dunia. Elon Musk dan lebih dari 33.000 pakar AI lainnya telah menyerukan penghentian sementara selama enam bulan pada riset-riset AI raksasa.

Mengapa? Karena mereka khawatir akan "emergent ability" dari AI generatif. Kemampuan yang muncul secara tiba-tiba dan tak terduga, yang bahkan tidak pernah diajari sebelumnya oleh manusia.

CEO Google, Sundar Pichai, pernah mengatakan bahwa belum ada yang dapat menjelaskan mengapa AI generatif bisa secerdas itu.

AI generatif tidak dilatih untuk kemampuan lain selain pemahaman terhadap bahasa. Namun, secara mengejutkan, AI mampu melakukan hal-hal luar biasa lainnya.

Bahkan, baru-baru ini, model AI generatif bernama ChatGPT lulus dalam tes masuk University of Minnesota Law School.

Pada saat yang hampir sama, ChatGPT juga lulus ujian lisensi dokter Massachusetts General Hospital (MGH). Siapa yang menyangka bahwa program komputer bisa mencapai hal tersebut?

Dalam penelitian terkenal yang dilakukan oleh Stanford, kita diperkenalkan dengan agen generatif, karakter virtual yang menyimulasikan perilaku manusia dalam lingkungan yang terinspirasi oleh game "The Sims."

Hal yang mengejutkan adalah, karakter-karakter virtual ini mulai menunjukkan perilaku yang tidak terduga, seperti menyebarkan undangan untuk pesta Hari Valentine, membuat kenalan baru, dan bahkan berkoordinasi untuk datang bersama-sama ke pesta pada waktu yang tepat!

Namun, sejauh mana kita bisa membiarkan AI melakukan hal-hal ini tanpa alasan yang jelas? Bagaimana jika ada efek samping yang tidak diinginkan, atau bahkan berbahaya, timbul akibat "emergent ability" ini?

Manusia, sebagai makhluk yang rasional, memiliki dorongan alamiah untuk memahami dunia di sekeliling mereka.

Ketidakpahaman seringkali membawa ketakutan, rasa was-was terhadap yang tidak diketahui. Termasuk ketakutan pada anak ajaib yang bernama AI ini.

Inilah mengapa kita membutuhkan Explainable AI (XAI).

Beberapa perusahaan telah berusaha menerapkan konsep XAI. IBM menciptakan 'AI Explainability 360', alat yang membantu memahami bagaimana model AI bekerja.

Fiddler AI, berfokus pada transparansi AI, menciptakan platform XAI yang membantu memahami dan menjelaskan keputusan model AI.

Google juga mengembangkan 'What-If Tool' yang memungkinkan pengguna memahami hubungan antara input dan output dalam model AI.

Tujuan XAI adalah untuk membuat AI tidak hanya cerdas, tetapi juga bisa menjelaskan alasan di balik kecerdasannya.

Dengan XAI, kita bisa memahami bagaimana dan mengapa AI membuat keputusan tertentu, dan ini bisa membantu kita merasa lebih aman dan nyaman dengan teknologi ini.

Sehingga kita tidak lagi merasa seperti berhadapan dengan anak ajaib, namun akan merasa seperti mengendarai mobil keluaran terbaru dengan segala fitur barunya.

Karena cerdas itu butuh alasan. Alasan diperlukan untuk lebih mengenal. Karena tak kenal maka tak sayang.