Baca berita tanpa iklan. Gabung Kompas.com+
Nayoko Wicaksono
Co-Founder & Chief Executive Officer

A seasoned Data-Driven Culture Strategist, specializing in designing and facilitating transformative, data-centric experiences for organizations. With a proven track record in empowering organizations to embrace data science, I accelerate the adoption process by bridging the gap between technical expertise and business needs. Through bespoke workshops and training sessions, I enable companies to harness the power of data analytics and create a culture of informed decision-making.

kolom

Etika dalam AI: Menerapkan Prinsip Etis untuk Mengatasi Kekhawatiran

Kompas.com - 14/05/2023, 07:00 WIB
Anda bisa menjadi kolumnis !
Kriteria (salah satu): akademisi, pekerja profesional atau praktisi di bidangnya, pengamat atau pemerhati isu-isu strategis, ahli/pakar di bidang tertentu, budayawan/seniman, aktivis organisasi nonpemerintah, tokoh masyarakat, pekerja di institusi pemerintah maupun swasta, mahasiswa S2 dan S3. Cara daftar baca di sini

Berdasarkan laporan dari Reuters pada 10 Oktober 2018, algoritma tersebut diduga telah mengecualikan kandidat wanita secara otomatis karena model pelatihan yang digunakan hanya didasarkan pada data calon karyawan laki-laki yang telah lulus seleksi sebelumnya.

Sebagai hasilnya, sistem tersebut cenderung memprioritaskan kandidat laki-laki dan secara tidak sengaja memperkuat kesenjangan gender yang sudah ada di industri teknologi.

Contoh ini menunjukkan bahwa masalah bias dalam AI dapat memiliki dampak yang signifikan dan merugikan bagi kelompok tertentu dalam masyarakat.

Oleh karena itu, penting untuk memastikan bahwa data pelatihan yang digunakan dalam pengembangan sistem AI mencakup representasi yang cukup dari berbagai kelompok sehingga hasil yang dihasilkan lebih adil dan akurat.

Data Pribadi

Ketergantungan AI pada informasi sangatlah penting untuk proses pembelajarannya. Tanpa akses terhadap data yang relevan dan berkualitas, kemampuan AI untuk belajar dan mengambil keputusan akan terbatas.

Salah satu data yang paling sering digunakan adalah data pribadi. Namun, sayangnya tidak semua orang menyadari bahwa infromasi dari data pribadi miliknya akan diolah seperti apa dan akan berdampak apa untuk mereka.

Padahal saat ini, semua aktivitas kita di internet, mulai dari pencarian, pembelian, hingga komentar di media sosial, dapat digunakan untuk melacak dan mengidentifikasi kita, yang nantinya dapat digunakan untuk mempersonalisasi pengalaman pengguna.

Meskipun mungkin terlihat menguntungkan (contohnya, AI yang merekomendasikan produk yang kita suka), namun hal ini juga dapat menghasilkan bias yang tidak terduga dan mungkin merugikan beberapa pengguna (contohnya, ketika hanya beberapa konsumen yang mendapatkan tawaran khusus, dan yang lainnya tidak).

Sebagai pengguna teknologi AI, kita perlu lebih waspada dan mempertimbangkan bagaimana data pribadi kita digunakan oleh AI. Serta lebih berhati-hati lagi dengan apa yang kita bagikan secara online dan lebih memahami hak privasi.

Salah satu contoh masalah yang ditimbulkan dari penggunaan AI terkait data pribadi adalah Cambridge Analytica scandal yang terjadi pada 2018.

Perusahaan tersebut menggunakan data pribadi jutaan pengguna Facebook yang dikumpulkan tanpa persetujuan mereka dan menggunakan algoritma untuk menganalisis data tersebut dan memprediksi perilaku pemilih dalam pemilihan umum Amerika Serikat pada 2016.

Hal ini memicu kekhawatiran tentang privasi dan penggunaan data pribadi secara tidak sah. Banyak pengguna Facebook merasa bahwa data mereka telah disalahgunakan, sementara penggunaan data pribadi tanpa izin melanggar undang-undang privasi di berbagai negara.

Kasus ini juga menunjukkan bahwa perusahaan-perusahaan yang menggunakan AI harus memperhatikan penggunaan data pribadi dan memastikan bahwa mereka mematuhi undang-undang dan etika yang berlaku dalam penggunaan data tersebut.

Dampak lingkungan AI

Teknologi Artificial Intelligence (AI) yang semakin berkembang saat ini membuat saya sadar bahwa semakin besar model-model terbaru yang digunakan, semakin besar pula dampaknya terhadap lingkungan.

Sebagai konsumen sumber daya yang bisa dibilang signifikan perkembangannya, AI membutuhkan energi yang sangat besar untuk dilatih.

Beruntung saat ini para peneliti telah mengembangkan teknik-teknik baru untuk menciptakan AI yang lebih efisien secara energi.

Mereka berusaha menyeimbangkan antara kinerja dan efisiensi energi, agar AI dapat terus berkembang tanpa merusak lingkungan. Saya percaya, hal ini sangat penting dilakukan demi keberlanjutan lingkungan kita.

Salah satu contoh masalah yang ditimbulkan dari AI terkait dampak lingkungan adalah penggunaan energi yang tinggi oleh komputer dan infrastruktur server yang mendukung sistem AI.

Sebuah studi tahun 2019 yang diterbitkan di jurnal Nature mengungkapkan bahwa pelatihan dan pengoperasian model deep learning yang menggunakan hardware yang lebih besar dan lebih kompleks dapat menghasilkan emisi karbon yang signifikan.

Penelitian tersebut menemukan bahwa pelatihan model bahasa alami (natural language processing) menggunakan komputer berdaya tinggi dapat menghasilkan setara dengan 284.000 mil perjalanan mobil dalam satu tahun.

Sedangkan pengoperasian model deep learning untuk tugas pengenalan gambar (image recognition) menghasilkan emisi setara dengan 125.000 mil perjalanan mobil dalam satu tahun.

Hal ini menunjukkan bahwa penggunaan AI yang tidak efisien dan berkelanjutan dapat menyebabkan dampak lingkungan yang signifikan.

Halaman:
Video rekomendasi
Video lainnya


Baca berita tanpa iklan. Gabung Kompas.com+
Baca berita tanpa iklan. Gabung Kompas.com+
Baca berita tanpa iklan. Gabung Kompas.com+
komentar di artikel lainnya
Baca berita tanpa iklan. Gabung Kompas.com+
Close Ads
Bagikan artikel ini melalui
Oke
Login untuk memaksimalkan pengalaman mengakses Kompas.com