Inteligența artificială și luarea automată a deciziilor aduc nu numai beneficii, ci și anumite riscuri.
Ce este inteligența artificială și de ce poate fi periculoasă?
Algoritmii de învățare pot procesa cantități mari de informații într-o perioadă scurtă de timp, depășind capacitățile creierului uman. Prin urmare, aplicațiile bazate pe inteligența artificială sunt acum folosite în tot mai multe domenii. Ei sunt absenți în finanțe, sănătate, educație sau drept. Cu toate acestea, a te baza doar pe ei presupune anumite riscuri, mai ales dacă lăsăm algoritmii să ia decizii fără a fi supravegheați de un om în carne și oase. Algoritmii sunt învățați din tipare repetitive, pe care le observă în cantitatea de date pe care le alimentăm. Problema apare atunci când aceste date de intrare reflectă prejudecățile din societatea noastră.
Când inteligența artificială te decide
Inteligența artificială este din ce în ce mai folosită în așa-numitele sisteme de decizie algoritmică (ADS). Efectele acestor decizii pot fi uneori foarte grave, de exemplu atunci când un program de calculator decide dacă ești eligibil pentru un împrumut sau tratament bancar, dacă ar trebui să te ducă la locul de muncă pentru care aplici sau dacă să te închidă sau nu. Dacă dăm algoritmic datele greșite, ei pot învăța să fie „părtinitori” la fel ca noi, copiendu-ne prejudecățile. De exemplu, există cazuri în care programele de filtrare a persoanelor aflate în căutarea unui loc de muncă au discriminat femeile. La fel cum fac oamenii.
Cum să protejăm consumatorii în era inteligenței artificiale?
Dezvoltarea inteligenței artificiale și a procesului decizional automat ridică, de asemenea, întrebarea cum să nu-și piardă încrederea consumatorilor. Când clienții intră în contact cu inteligența artificială, aceștia ar trebui să fie clar informați și informați despre modul în care funcționează.
Sursa: EP, 22.4.2020