A mesterséges intelligencia és az automatizált döntéshozatal nemcsak előnyökkel jár, hanem bizonyos kockázatokkal is.
Mi a mesterséges intelligencia, és miért lehet veszélyes?
A tanulóalgoritmusok hatalmas mennyiségű információt képesek feldolgozni rövid időn belül, ami meghaladja az emberi agy képességeit. Ezért ma már egyre több területen alkalmaznak mesterséges intelligencia alapú alkalmazásokat. Hiányoznak a pénzügyből, az egészségügyből, az oktatásból vagy a jogból. A csak rájuk való támaszkodás azonban bizonyos kockázatokkal jár, különösen, ha hagyjuk, hogy az algoritmusok hús-vér ember felügyelete nélkül hozzanak döntéseket. Az algoritmusokat ismétlődő mintákból tanulják, amelyeket az általunk betáplált adatmennyiségben figyelnek meg. A probléma akkor merül fel, ha ezek a bemeneti adatok tükrözik a társadalmunkban uralkodó előítéleteket.
Amikor a mesterséges intelligencia dönt Önről
A mesterséges intelligenciát egyre gyakrabban használják az úgynevezett algoritmikus döntési rendszerekben (ADS). Ezeknek a döntéseknek a hatásai néha nagyon súlyosak lehetnek, például amikor egy számítógépes program eldönti, hogy jogosult-e banki kölcsönre vagy kezelésre, hogy el kell-e vinni a megpályázott állásra, vagy be kell-e zárni vagy sem. Ha algoritmikusan rossz adatokat adunk meg, megtanulhatnak „elfogultnak” lenni, akárcsak mi, lemásolva előítéleteinket. Például vannak olyan esetek, amikor az álláskereső-szűrő programok diszkriminálták a nőket. Akárcsak az emberek.
Hogyan védhetjük meg a fogyasztókat a mesterséges intelligencia korában?
A mesterséges intelligencia és az automatikus döntéshozatal fejlődése felveti azt a kérdést is, hogyan ne veszítsük el a fogyasztói bizalmat. Amikor az ügyfelek mesterséges intelligenciával kerülnek kapcsolatba, egyértelműen tájékoztatni kell őket arról, hogyan működik.
Forrás: EP, 2020.4.22.