Peringatan dari Ahli, Risiko AI Setara Perang Nuklir

Menurut para ahli, peneliti, dan eksekutif yang tergabung dalam organisasi Center for AI Safety ini, risiko dari keberadaan AI harus menjadi prioritas bersama lintas negara di dunia, karena risikonya sama seperti pandemi atau perang nuklir.

"Mengurangi risiko AI harus menjadi prioritas global bersama dengan risiko skala sosial lainnya seperti pandemi dan perang nuklir," demikian bunyi peringatan itu, dikutip KompasTekno dari situs resmi Center for AI Safety, Jumat (2/6/2023).

Beberapa tokoh yang terlibat dalam organisasi itu antara lain CEO Google DeepMind Demis Hassabis, CEO OpenAI Sam Altman, serta peneliti AI kenamaan termasuk Geoffrey Hinton dan Yoshua Bengio. Mereka juga telah menandatangani pernyataan itu, sebagai tanda bahwa mereka mengamini risiko tersebut.

Adapun pernyataan itu menjadi intervensi terbaru di tengah perdebatan soal keamanan AI.

Sebab, awal tahun ini sejumlah pakar AI yang sama juga menerbitkan peringatan terkait bahaya AI, hingga menyerukan agar pengembangan AI dijeda selama enam bulan.

Namun kemudian peringatan itu banyak ditentang oleh sejumlah pihak karena dinilai terlalu berlebihan.

Nah, menurut direktur eksekutif Center for AI Safety Dan Hendrycks, peringatan yang diterbitkan kali ini ditujukan untuk meredam perdebatan risiko AI, khususnya mereka yang menentang risiko AI.

"Kami tidak ingin memaksakan hal yang sangat besar dari 30 intervensi potensial. Itu (akan) melemahkan pesan," ujar Hendrycks kepada The New York Times.

Hendrycks juga menjelaskan bahwa ada kesalahpahaman yang cukup umum terjadi, bahkan di kalangan komunitas AI, yaitu soal adanya keyakinan bahwa bahaya AI hanya berdampak pada sebagian orang saja. Padahal menurut Hendrycks, sebenarnya banyak orang (bukan sebagian) yang khawatir akan dampaknya.

"Pada kenyataannya, banyak orang yang secara personal mengungkapkan keprihatinan tentang hal ini," imbuh Hendrycks.

Pada dasarnya perdebatan soal bahaya AI seolah tak berujung, karena hanya berkutat pada kekhawatiran ketika AI semakin pintar dan manusia tak bisa lagi mengendalikannya.

Di sisi lain sejumlah pihak meragukan hal tersebut karena menilai AI tidak bisa menangani tugas yang relatif mudah, misalnya mengendarai mobil. Oleh karena itu, mereka juga skeptis soal potensi kemampuan teknologi yang setara dengan kemampuan manusia.

Namun terlepas dari perdebatan di atas, kedua belah pihak sepakat bahwa AI saat ini mengancam sejumlah hal, mulai dari pemanfaatannya untuk monitoring massal hingga mendukung algoritma prediksi yang tidak tepat.