Hvað er gervigreind og hver er áhættan?

Gervigreind og sjálfvirk ákvarðanataka hefur ekki aðeins ávinning í för með sér heldur einnig ákveðna áhættu.

Hvað er gervigreind og hvers vegna getur það verið hættulegt?

Námsreiknirit geta unnið úr miklu magni upplýsinga á stuttum tíma, umfram getu mannsheilans. Þess vegna eru gervigreindarforrit nú notuð á fleiri og fleiri sviðum. Þeir eru fjarverandi í fjármálum, heilbrigðisþjónustu, menntun eða lögfræði. Hins vegar að reiða sig aðeins á þá fylgir ákveðin áhætta, sérstaklega ef við látum reikniritin taka ákvarðanir án þess að vera undir eftirliti manns af holdi og blóði. Reiknirit eru lærð af endurteknum mynstrum, sem þeir fylgjast með í magni gagna sem við fóðrum þeim. Vandamálið kemur upp þegar þessi inntaksgögn endurspegla fordómana í samfélagi okkar.

Þegar gervigreind ákveður þig

Gervigreind er í auknum mæli notuð í svokölluðum algorithmic decision systems (ADS). Áhrif þessara ákvarðana geta stundum verið mjög alvarleg, til dæmis þegar tölvuforrit ákveður hvort þú eigir rétt á bankaláni eða meðferð, hvort það eigi að fara með þig í starfið sem þú sækir um eða hvort þú eigir að fangelsa þig eða ekki. Ef við reiknum út röng gögn geta þeir lært að vera „hlutdrægir“ eins og við og afrita fordóma okkar. Til dæmis eru dæmi um að síunaráætlanir fyrir atvinnuleitendur hafi mismunað konum. Rétt eins og fólk gerir.

Hvernig á að vernda neytendur á tímum gervigreindar?

Þróun gervigreindar og sjálfvirkrar ákvarðanatöku vekur einnig spurningu um hvernig eigi að missa traust neytenda. Þegar viðskiptavinir komast í snertingu við gervigreind ættu þeir að vera skýrt upplýstir og upplýstir um hvernig það virkar.

Heimild: EP, 22.4.2020