Què és la intel·ligència artificial i quins són els riscos?

La intel·ligència artificial i la presa de decisions automatitzada no només aporten beneficis, sinó també certs riscos.

Què és la intel·ligència artificial i per què pot ser perillosa?

Els algorismes d'aprenentatge poden processar grans quantitats d'informació en un curt període de temps, superant les capacitats del cervell humà. Per tant, les aplicacions basades en intel·ligència artificial s'estan utilitzant en cada cop més àrees. Estan absents en finances, sanitat, educació o dret. Tanmateix, confiar només en ells comporta certs riscos, sobretot si deixem que els algorismes prenguin decisions sense ser supervisats per un home de carn i ossos. Els algorismes s'aprenen a partir de patrons repetitius, que observen en la quantitat de dades que els alimentem. El problema sorgeix quan aquestes dades d'entrada reflecteixen els prejudicis de la nostra societat.

Quan la intel·ligència artificial et decideix

La intel·ligència artificial s'utilitza cada cop més en els anomenats sistemes de decisió algorítmica (ADS). Els efectes d'aquestes decisions de vegades poden ser molt greus, per exemple quan un programa informàtic decideix si ets elegible per a un préstec o tractament bancari, si t'han de portar a la feina a la qual estàs sol·licitant o si t'empresonen o no. Si donem algorítmicament les dades equivocades, poden aprendre a ser "esbiaixats" igual que nosaltres, copiant els nostres prejudicis. Per exemple, hi ha casos en què els programes de filtratge de persones que busquen feina han discriminat a les dones. Igual que la gent.

Com protegir els consumidors en l'era de la intel·ligència artificial?

El desenvolupament de la intel·ligència artificial i la presa de decisions automàtica també planteja la qüestió de com no perdre la confiança dels consumidors. Quan els clients entren en contacte amb la intel·ligència artificial, haurien d'estar clarament informats i informats sobre com funciona.

Font: EP, 22.4.2020