Co je umělá inteligence a jaká rizika s sebou přináší?

Umělá inteligence a automatické rozhodovací procesy s sebou přinášejí nejen výhody, ale i jistá rizika.

Učící se algoritmy dokáží zpracovat obrovské množství informací v krátké době, čímž několikanásobně převyšují schopnosti lidského mozku. Aplikace založené na umělé inteligenci se proto dnes používají ve stále více oblastech. Nechybí ve finančnictví, zdravotnictví, vzdělávání nebo právní oblasti. Spoléhat se jen na ně však s sebou přináší jistá rizika, zejména tehdy, necháme-li algoritmy provádět rozhodnutí, aniž by na ně dohlížel člověk z masa a kostí. Algoritmy se učí na základě opakovaných vzorců, které zpozorují v množství údajů, kterými je krmíme. Problém nastává tehdy, když tyto vstupní údaje odrážejí předsudky panující v naší společnosti.

Umělá inteligence se stále více využívá v takzvaných algoritmických rozhodovacích systémech (algorithmic decision systems - ADS). Dopady těchto rozhodnutí mohou být někdy velmi vážné, například tehdy, pokud počítačový program rozhoduje, zda máte nárok na půjčku v bance nebo léčbu, zda vás mají přijmout do práce, o kterou se ucházíte, nebo zavřít či nezavřít do vězení. Dáme-li algoritmům nesprávné údaje, mohou se naučit být „zaujaté“ podobně jako my a kopírovat tak naše předsudky. Existují například případy, kdy programy na filtrování uchazečů o práci diskriminovaly ženy. Podobně jako to dělají i lidé.

Rozvoj umělé inteligence a automatického rozhodování s sebou přináší i otázku, jak neztratit důvěru spotřebitelů. Když zákazníci přicházejí do kontaktu s umělou inteligencí, měli by být o tom jasně informováni a měli by být obeznámeni s tím, jak funguje.

Zdroj: EP, 22.4.2020