Tekoäly ja automatisoitu päätöksenteko tuovat paitsi etuja myös tiettyjä riskejä.
Mitä tekoäly on ja miksi se voi olla vaarallista?
Oppimisalgoritmit voivat käsitellä valtavia määriä tietoa lyhyessä ajassa, mikä ylittää ihmisaivojen kyvyt. Siksi tekoälyyn perustuvia sovelluksia käytetään nyt yhä useammilla alueilla. He eivät ole läsnä rahoituksessa, terveydenhuollossa, koulutuksessa tai lakialalla. Pelkästään niihin luottamiseen liittyy kuitenkin tiettyjä riskejä, varsinkin jos annamme algoritmien tehdä päätöksiä ilman lihan ja veren miehen valvontaa. Algoritmit opitaan toistuvista kuvioista, joita he havaitsevat syöttämämme datamäärän mukaan. Ongelma syntyy, kun tämä syöttötieto heijastaa yhteiskunnassamme vallitsevia ennakkoluuloja.
Kun tekoäly päättää sinusta
Tekoälyä käytetään yhä enemmän niin kutsutuissa algoritmisissa päätösjärjestelmissä (ADS). Näiden päätösten vaikutukset voivat joskus olla erittäin vakavia, esimerkiksi silloin, kun tietokoneohjelma päättää, oletko oikeutettu pankkilainaan tai hoitoon, viedäkö sinut hakemaasi työhön vai vangitaanko sinut vai ei. Jos annamme algoritmisesti vääriä tietoja, he voivat oppia olemaan "puolue", kuten mekin, kopioiden ennakkoluulojamme. On esimerkiksi tapauksia, joissa työnhakijoiden suodatusohjelmat ovat syrjineet naisia. Aivan kuten ihmiset tekevät.
Kuinka suojella kuluttajia tekoälyn aikakaudella?
Tekoälyn ja automaattisen päätöksenteon kehitys herättää myös kysymyksen siitä, kuinka kuluttajien luottamusta ei menetetä. Kun asiakkaat joutuvat kosketuksiin tekoälyn kanssa, heille tulee kertoa selkeästi, miten se toimii.
Lähde: EP, 22.4.2020