Kunsmatige intelligensie en outomatiese besluitneming bring nie net voordele nie, maar ook sekere risiko's.
Wat is kunsmatige intelligensie en hoekom kan dit gevaarlik wees?
Leeralgoritmes kan groot hoeveelhede inligting in 'n kort tydjie verwerk, wat die vermoëns van die menslike brein oorskry. Daarom word toepassings wat op kunsmatige intelligensie gebaseer is, nou op meer en meer gebiede gebruik. Hulle is afwesig in finansies, gesondheidsorg, onderwys of reg. Om net op hulle te vertrou hou egter sekere risiko's in, veral as ons die algoritmes laat besluite neem sonder om onder toesig van 'n man van vlees en bloed te wees. Algoritmes word geleer uit herhalende patrone, wat hulle waarneem in die hoeveelheid data wat ons hulle voed. Die probleem ontstaan wanneer hierdie insetdata die vooroordele in ons samelewing weerspieël.
Wanneer kunsmatige intelligensie jou besluit
Kunsmatige intelligensie word toenemend in sogenaamde algoritmiese besluitstelsels (ADS) gebruik. Die gevolge van hierdie besluite kan soms baie ernstig wees, byvoorbeeld wanneer 'n rekenaarprogram besluit of jy in aanmerking kom vir 'n banklening of behandeling, of hulle jou moet neem na die werk waarvoor jy aansoek doen, en of jy jou in die tronk moet sit of nie. As ons algoritmies die verkeerde data gee, kan hulle leer om net soos ons “bevooroordeeld” te wees en ons vooroordele na te boots. Daar is byvoorbeeld gevalle waar werksoekers-filtreerprogramme teen vroue gediskrimineer het. Net soos mense doen.
Hoe om verbruikers te beskerm in die era van kunsmatige intelligensie?
Die ontwikkeling van kunsmatige intelligensie en outomatiese besluitneming laat ook die vraag ontstaan hoe om nie verbruikersvertroue te verloor nie. Wanneer klante met kunsmatige intelligensie in aanraking kom, moet hulle duidelik ingelig en ingelig word oor hoe dit werk.
Bron: EP, 22.4.2020