Kecerdasan buatan dan membuat keputusan automatik bukan sahaja membawa faedah tetapi juga risiko tertentu.
Apakah kecerdasan buatan dan mengapa ia boleh berbahaya?
Algoritma pembelajaran boleh memproses sejumlah besar maklumat dalam masa yang singkat, melebihi keupayaan otak manusia. Oleh itu, aplikasi berasaskan kecerdasan buatan kini digunakan di lebih banyak kawasan. Mereka tidak hadir dalam bidang kewangan, penjagaan kesihatan, pendidikan atau undang-undang. Walau bagaimanapun, bergantung hanya pada mereka membawa risiko tertentu, terutamanya jika kita membiarkan algoritma membuat keputusan tanpa diawasi oleh manusia yang mempunyai darah daging. Algoritma dipelajari daripada corak berulang, yang mereka perhatikan dalam jumlah data yang kami suapkan kepada mereka. Masalah timbul apabila data input ini mencerminkan prasangka dalam masyarakat kita.
Apabila kecerdasan buatan memutuskan anda
Kecerdasan buatan semakin digunakan dalam apa yang dipanggil sistem keputusan algoritma (ADS). Kesan daripada keputusan ini kadangkala boleh menjadi sangat serius, contohnya apabila program komputer memutuskan sama ada anda layak mendapat pinjaman atau rawatan bank, sama ada mereka harus membawa anda ke pekerjaan yang anda mohon, atau sama ada memenjarakan anda atau tidak. Jika kita secara algoritma memberikan data yang salah, mereka boleh belajar untuk menjadi "berat sebelah" sama seperti kita, meniru prasangka kita. Sebagai contoh, terdapat kes di mana program penapisan pencari kerja telah mendiskriminasi wanita. Sama seperti orang ramai.
Bagaimana untuk melindungi pengguna pada zaman kecerdasan buatan?
Perkembangan kecerdasan buatan dan pembuatan keputusan automatik juga menimbulkan persoalan bagaimana tidak kehilangan keyakinan pengguna. Apabila pelanggan berhubung dengan kecerdasan buatan, mereka harus dimaklumkan dengan jelas dan dimaklumkan tentang cara ia berfungsi.
Sumber: EP, 22.4.2020