La inteligencia artificial y la toma de decisiones automatizada aportan no solo beneficios sino también ciertos riesgos.
¿Qué es la inteligencia artificial y por qué puede ser peligrosa?
Los algoritmos de aprendizaje pueden procesar grandes cantidades de información en un corto período de tiempo, superando las capacidades del cerebro humano. Por lo tanto, las aplicaciones basadas en inteligencia artificial ahora se utilizan en más y más áreas. Están ausentes en las finanzas, la salud, la educación o la ley. Sin embargo, confiar solo en ellos conlleva ciertos riesgos, sobre todo si dejamos que los algoritmos tomen decisiones sin ser supervisados por un hombre de carne y hueso. Los algoritmos se aprenden a partir de patrones repetitivos, que observan en la cantidad de datos que les proporcionamos. El problema surge cuando estos datos de entrada reflejan los prejuicios de nuestra sociedad.
Cuando la inteligencia artificial decide por ti
La inteligencia artificial se utiliza cada vez más en los llamados sistemas de decisión algorítmica (ADS). Los efectos de estas decisiones a veces pueden ser muy graves, por ejemplo, cuando un programa informático decide si eres elegible para un préstamo o tratamiento bancario, si te deben llevar al trabajo que estás solicitando o si te encarcelan o no. Si algorítmicamente damos los datos incorrectos, pueden aprender a ser "sesgados" como nosotros, copiando nuestros prejuicios. Por ejemplo, hay casos en los que los programas de filtrado de solicitantes de empleo han discriminado a las mujeres. Al igual que la gente.
¿Cómo proteger a los consumidores en la era de la inteligencia artificial?
El desarrollo de la inteligencia artificial y la toma de decisiones automática también plantea la cuestión de cómo no perder la confianza del consumidor. Cuando los clientes entran en contacto con la inteligencia artificial, deben estar claramente informados e informados sobre cómo funciona.
Fuente: EP, 22.4.2020