A inteligência artificial e a tomada de decisão automatizada trazem não apenas benefícios, mas também alguns riscos.
O que é inteligência artificial e por que ela pode ser perigosa?
Algoritmos de aprendizado podem processar grandes quantidades de informações em um curto espaço de tempo, excedendo as capacidades do cérebro humano. Portanto, aplicativos baseados em inteligência artificial estão sendo usados em cada vez mais áreas. Eles estão ausentes em finanças, saúde, educação ou direito. No entanto, confiar apenas neles traz certos riscos, especialmente se deixarmos os algoritmos tomarem decisões sem serem supervisionados por um homem de carne e osso. Os algoritmos são aprendidos a partir de padrões repetitivos, que eles observam na quantidade de dados que os alimentamos. O problema surge quando esses dados de entrada refletem os preconceitos em nossa sociedade.
Quando a inteligência artificial decide você
A inteligência artificial é cada vez mais utilizada nos chamados sistemas de decisão algorítmica (ADS). Os efeitos dessas decisões podem às vezes ser muito graves, por exemplo, quando um programa de computador decide se você é elegível para um empréstimo ou tratamento bancário, se deve levá-lo ao emprego para o qual está se candidatando ou se deve ou não prendê-lo. Se dermos algoritmicamente os dados errados, eles podem aprender a ser "tendenciosos" como nós, copiando nossos preconceitos. Por exemplo, há casos em que os programas de filtragem de candidatos a emprego discriminaram as mulheres. Assim como as pessoas fazem.
Como proteger os consumidores na era da inteligência artificial?
O desenvolvimento da inteligência artificial e da tomada de decisão automática também levanta a questão de como não perder a confiança do consumidor. Quando os clientes entram em contato com a inteligência artificial, eles devem ser claramente informados e informados sobre como ela funciona.
Fonte: EP, 22.4.2020