KECERDASAN buatan (Artificial Intelligence, AI) bukan lagi teknologi masa hadapan, sebaliknya telah menjadi sebahagian daripada kehidupan harian masyarakat.

Daripada kandungan yang dipaparkan di media sosial sehinggalah kepada penilaian kredit, pemilihan calon pekerjaan, cadangan pembelian dalam talian dan analisis kesihatan, algoritma kini semakin mempengaruhi cara keputusan dibuat.

Namun, di sebalik kecekapan yang ditawarkan, timbul satu persoalan penting: sejauh manakah keputusan yang dibuat oleh algoritma benar-benar adil?

Ramai beranggapan bahawa komputer dan sistem AI sentiasa objektif kerana tidak dipengaruhi emosi, sentimen atau kepentingan peribadi. Hakikatnya, AI tidak berfikir seperti manusia.

Sebaliknya, ia belajar daripada data yang dibekalkan kepadanya. Jika data tersebut tidak lengkap, tidak seimbang atau mengandungi kecenderungan tertentu, keputusan yang dihasilkan juga berpotensi menjadi berat sebelah.

Dalam disiplin statistik, isu bias bukanlah sesuatu yang baharu. Ahli statistik telah lama membincangkan konsep seperti bias pensampelan (sampling bias), data yang tidak mewakili populasi dan ralat pengukuran.

Cabaran ini menjadi lebih signifikan dalam era AI kerana sesuatu model hanya mampu menghasilkan keputusan yang berkualiti sekiranya data yang digunakan benar-benar mencerminkan realiti.

Terdapat satu prinsip yang sering digunakan dalam bidang analitik data, iaitu garbage in, garbage out. Prinsip ini menjelaskan bahawa sesuatu sistem hanya akan menjadi sebaik data yang digunakan untuk membinanya.

Dengan kata lain, teknologi secanggih mana sekalipun tidak mampu menghasilkan keputusan yang tepat sekiranya data yang dimasukkan mengandungi kelemahan.

Sebagai contoh, sesebuah organisasi mungkin menggunakan AI untuk menyaring ribuan permohonan pekerjaan.

Jika model tersebut dibangunkan menggunakan data pekerja cemerlang terdahulu yang majoritinya mempunyai latar belakang tertentu, sistem berkenaan berkemungkinan besar akan cenderung memilih calon yang mempunyai ciri yang hampir sama.

Walaupun algoritma tidak mengenali identiti seseorang secara langsung, corak dalam data lampau boleh mempengaruhi keputusan yang dibuat.

Situasi yang sama boleh berlaku dalam sektor kewangan. Banyak institusi kini menggunakan sistem automatik untuk menilai risiko kredit dan kelayakan pinjaman.

Sekiranya model yang digunakan tidak mewakili semua lapisan masyarakat, terdapat kemungkinan sesetengah kumpulan akan menghadapi kesukaran untuk mendapatkan akses kepada kemudahan kewangan. Dalam jangka panjang, keadaan ini berpotensi melebarkan jurang sosioekonomi yang sedia ada.

Malah, tanpa disedari, kita berinteraksi dengan algoritma hampir setiap hari.

Pernahkah kita tertanya-tanya mengapa aplikasi media sosial sering mencadangkan kandungan tertentu atau mengapa iklan yang dipaparkan seolah-olah memahami minat dan keperluan kita? Jawapannya terletak pada data. Algoritma mempelajari tingkah laku

pengguna dan seterusnya menentukan maklumat yang dianggap paling relevan untuk dipaparkan.

Walaupun pendekatan ini bertujuan meningkatkan pengalaman pengguna, ia turut membawa implikasi lain.

Pengguna berisiko terperangkap dalam persekitaran maklumat yang terhad, iaitu apabila mereka hanya didedahkan kepada pandangan yang selari dengan kecenderungan sedia ada.

Keadaan ini boleh menyumbang kepada peningkatan polarisasi dalam masyarakat dan mengehadkan pendedahan kepada perspektif yang berbeza.

Malaysia juga tidak terkecuali daripada arus pendigitalan dan penggunaan AI.

Pelbagai sektor sedang giat meneroka potensi teknologi ini bagi meningkatkan kecekapan dan produktiviti.

Dalam bidang pendidikan, AI berupaya membantu menganalisis prestasi pelajar dan menawarkan pembelajaran yang lebih bersifat peribadi.

Dalam sektor kesihatan pula, AI mampu menyokong pengesanan awal penyakit dan mempercepatkan proses diagnosis.

Begitu juga dalam sektor awam, penggunaan AI dilihat mampu meningkatkan keberkesanan penyampaian perkhidmatan kepada rakyat.

Namun, pembangunan AI perlu disertai dengan mekanisme tadbir urus yang mantap.

Ketelusan dalam pembangunan model, audit algoritma secara berkala dan penggunaan data yang representatif perlu diberikan perhatian serius.

Pada masa yang sama, usaha meningkatkan literasi data dalam kalangan masyarakat juga perlu diperkasakan agar orang ramai memahami bagaimana keputusan berasaskan AI dibuat.

* Prof. Madya Dr. Nazrina Aziz ialah Pensyarah Kanan Pusat Pengajian Sains Kuantitatif, UUM