Tiga Bias Berbahaya AI dan Solusinya

Secara umum, tujuan baru ini berlaku untuk seluruh perusahaan, tetapi beberapa di antaranya patut mendapat perhatian khusus oleh tim saat mengerjakan inisiatif AI, di mana bias menjadi perhatian.

Contohnya di bawah alligment terdapat proses dan aktivitas kontrol APO15 Managed Values dan APO16 Managed Brand Image and Reputation.

Kedua ini dibuat dengan tujuan spesifik, yakni APO15 mampu mengukuhkan kepemimpinan dalam pengembangan dan implementasi nilai organisasi serta APO16 mampu mengelola persepsi organisasi dari para pihak.

Berikutnya ketepatan (accuracy) adalah nilai AI dalam pemasaran hampir seluruhnya bergantung keakuratan penilaian, prediksi, dan penilaian yang dibuat alat tersebut.

Memastikan bahwa algoritma AI dirancang, dilatih, dan diimplementasikan dengan benar, hal ini sangat penting untuk mempertahankan standar akurasi tinggi yang dapat dipercaya para pemangku kepentingan.

Akurasi ini disertai target DSS07 Managed Integrity (memberikan jaminan ke para pihak bahwa keluaran sistem AI akurat dan tersedia) serta DSS08 Managed Communication (koordinasi komunikasi memastikan sistem AI dikembangkan/dikerjakan untuk keperluan potensial).

Lalu, etika (ethics) adalah pertimbangan etis menjadi yang terdepan di benak banyak pemangku kepentingan.

Di luar etika implisit terkait penyelarasan, organisasi harus mengambil langkah-langkah memastikan bahwa penggunaan AI tidak mengesampingkan masalah tertentu secara berlebihan, terutama dalam bidang pemasaran.

Saat berurusan dengan persuasi dan pengaruh konsumen, organisasi harus memastikan bahwa bahaya dapat dihindari saat mengizinkan AI untuk bertindak secara mandiri.

Kekhawatiran seperti privasi, dampak yang berbeda, diskriminasi, dan bahkan keberlanjutan, harus menjadi fokus perusahaan.

Etika ini terkait target spesifik MEA05 Managed Societal Impact (mengawasi keluaran AI kepada para pihak dari sisi sosial serta menghindari dampak merugikan).

Terakhir, dapat dimengerti (understandability) terkait kompleksitas AI yang memungkinkannya melakukan tugas-tugas independen yang secara historis membutuhkan interaksi manusia dan apa yang mengarah pada penciptaan efek "kotak hitam".

Hal ini selaras dengan target spesifik understandability, yakni BAI12 Managed Black Box atau kepastian semua spek sistem AI guna keperluan potensial terdokumentasi.

Kotak hitam ini terjadi ketika seseorang dapat melihat apa yang masuk ke dalam kotak dan apa yang keluar, tetapi tidak dapat memvisualisasikan (apalagi memahami) salah satu peristiwa yang terjadi di dalam kotak, yaitu algoritma.

Menghindari fenomena ini sangat penting dan memungkinkan eksekutif perusahaan untuk membuat keputusan tepat.

Dengan membuat kontrol yang menjamin pemahaman dan proses AI yang mudah, ada jaminan bahwa pemain kunci perusahaan dapat bereaksi terhadap perubahan di pasar serta masalah apa pun yang mungkin timbul melalui penggunaan AI.

Bagaimana, siapkah Anda dengan bias AI ini?