Hva er kunstig intelligens og hva er risikoen?

Kunstig intelligens og automatisert beslutningstaking gir ikke bare fordeler, men også visse risikoer.

Hva er kunstig intelligens og hvorfor kan det være farlig?

Læringsalgoritmer kan behandle enorme mengder informasjon på kort tid, og overgå evnene til den menneskelige hjernen. Derfor blir kunstig intelligens-baserte applikasjoner nå tatt i bruk på stadig flere områder. De er fraværende innen finans, helsevesen, utdanning eller juss. Men å bare stole på dem medfører visse risikoer, spesielt hvis vi lar algoritmene ta avgjørelser uten å bli overvåket av en mann av kjøtt og blod. Algoritmer læres fra repeterende mønstre, som de observerer i mengden data vi mater dem. Problemet oppstår når disse inndataene gjenspeiler fordommene i samfunnet vårt.

Når kunstig intelligens bestemmer deg

Kunstig intelligens brukes i økende grad i såkalte algoritmiske beslutningssystemer (ADS). Virkningene av disse avgjørelsene kan noen ganger være svært alvorlige, for eksempel når et dataprogram avgjør om du er kvalifisert for banklån eller behandling, om de skal ta deg til jobben du søker på, eller om du skal fengsles eller ikke. Hvis vi algoritmisk gir feil data, kan de lære å være "partisk" akkurat som oss, og kopiere fordommene våre. For eksempel er det tilfeller der arbeidssøkerfiltreringsprogrammer har diskriminert kvinner. Akkurat som folk gjør.

Hvordan beskytte forbrukere i en tidsalder med kunstig intelligens?

Utviklingen av kunstig intelligens og automatisk beslutningstaking reiser også spørsmålet om hvordan man ikke skal miste forbrukernes tillit. Når kunder kommer i kontakt med kunstig intelligens, bør de være tydelig informert og informert om hvordan det fungerer.

Kilde: EP, 22.4.2020