Qu'est-ce que l'intelligence artificielle et quels sont les risques ?

L'intelligence artificielle et la prise de décision automatisée présentent non seulement des avantages, mais également certains risques.

Qu'est-ce que l'intelligence artificielle et pourquoi peut-elle être dangereuse ?

Les algorithmes d'apprentissage peuvent traiter de grandes quantités d'informations en peu de temps, dépassant les capacités du cerveau humain. Par conséquent, les applications basées sur l'intelligence artificielle sont désormais utilisées dans de plus en plus de domaines. Ils sont absents de la finance, de la santé, de l'éducation ou du droit. Cependant, se fier uniquement à eux comporte certains risques, surtout si l'on laisse les algorithmes prendre des décisions sans être supervisés par un homme de chair et de sang. Les algorithmes sont appris à partir de modèles répétitifs, qu'ils observent dans la quantité de données que nous leur fournissons. Le problème se pose lorsque ces données d'entrée reflètent les préjugés de notre société.

Quand l'intelligence artificielle vous décide

L'intelligence artificielle est de plus en plus utilisée dans les systèmes décisionnels algorithmiques (ADS). Les effets de ces décisions peuvent parfois être très graves, par exemple lorsqu'un programme informatique décide si vous êtes admissible à un prêt bancaire ou à un traitement, s'il doit vous emmener à l'emploi pour lequel vous postulez ou s'il doit ou non vous emprisonner. Si nous donnons de manière algorithmique les mauvaises données, ils peuvent apprendre à être "partiaux", tout comme nous, en copiant nos préjugés. Par exemple, il existe des cas où les programmes de filtrage des demandeurs d'emploi ont été discriminatoires à l'égard des femmes. Tout comme les gens le font.

Comment protéger les consommateurs à l'ère de l'intelligence artificielle ?

Le développement de l'intelligence artificielle et de la prise de décision automatique pose également la question de savoir comment ne pas perdre la confiance des consommateurs. Lorsque les clients entrent en contact avec l'intelligence artificielle, ils doivent être clairement informés et informés de son fonctionnement.

Source : PE, 22.4.2020