Čo je umelá inteligencia a aké riziká so sebou prináša?

Umelá inteligencia a automatické rozhodovacie procesy so sebou prinášajú nielen výhody, ale aj isté riziká.

Učiace sa algoritmy dokážu spracovať obrovské množstvo informácií v krátkom čase, čím niekoľkonásobne prevyšujú schopnosti ľudského mozgu. Aplikácie založené na umelej inteligencii sa preto dnes používajú v čoraz viac oblastiach. Nechýbajú vo finančníctve, zdravotníctve, vzdelávaní alebo právnej oblasti. Spoliehať sa len na nich však so sebou prináša isté riziká, najmä vtedy ak necháme algoritmy uskutočňovať rozhodnutia bez toho, aby na nich dohliadal človek z mäsa a kostí. Algoritmy sa učia na základe opakovaných vzorcov, ktoré spozorujú v množstve údajov, ktorými ich kŕmime. Problém nastáva vtedy, ak tieto vstupné údaje odzrkadľujú predsudky panujúce v našej spoločnosti.

Umelá inteligencia sa čoraz viac využíva v takzvaných algoritmických rozhodovacích systémoch (algorithmic decision systems - ADS). Dopady týchto rozhodnutí môžu byť niekedy veľmi vážne, napríklad vtedy, ak počítačový program rozhoduje, či máte nárok na pôžičku v banke alebo liečbu, či vás majú prijať do práce, o ktorú sa uchádzate, alebo zavrieť či nezavrieť do väzenia. Ak dáme algoritmom nesprávne údaje, môžu sa naučiť byť „zaujaté“ podobne ako my a kopírovať tak naše predsudky. Existujú napríklad prípady, keď programy na filtrovanie uchádzačov o prácu diskriminovali ženy. Podobne ako to robia aj ľudia.

Rozvoj umelej inteligencia a automatického rozhodovania so sebou prináša aj otázku, ako nestratiť dôveru spotrebiteľov. Keď zákazníci prichádzajú do kontaktu s umelou inteligenciou, mali by byť o tom jasne informovaní a mali by byť oboznámení s tým, ako funguje.

Zdroj: EP, 22.4.2020