Искусственный интеллект и автоматизированное принятие решений приносят не только пользу, но и определенные риски.
Что такое искусственный интеллект и чем он может быть опасен?
Алгоритмы обучения могут обрабатывать огромные объемы информации за короткий промежуток времени, превышающий возможности человеческого мозга. Поэтому приложения на основе искусственного интеллекта сейчас используются во все большем количестве областей. Их нет в финансах, здравоохранении, образовании или юриспруденции. Однако полагаться только на них влечет за собой определенные риски, особенно если мы позволяем алгоритмам принимать решения без присмотра человека из плоти и крови. Алгоритмы изучаются на основе повторяющихся паттернов, которые они наблюдают в объеме данных, которые мы им подаем. Проблема возникает, когда эти исходные данные отражают предрассудки в нашем обществе.
Когда вас решает искусственный интеллект
Искусственный интеллект все чаще используется в так называемых алгоритмических системах принятия решений (ADS). Последствия этих решений иногда могут быть очень серьезными, например, когда компьютерная программа решает, имеете ли вы право на получение банковского кредита или лечения, должны ли они принять вас на работу, на которую вы претендуете, или посадить вас в тюрьму. Если мы алгоритмически даем неверные данные, они могут научиться быть «необъективными» точно так же, как и мы, копируя наши предубеждения. Например, есть случаи, когда программы фильтрации лиц, ищущих работу, дискриминируют женщин. Все как у людей.
Как защитить потребителей в эпоху искусственного интеллекта?
Развитие искусственного интеллекта и автоматического принятия решений также ставит вопрос о том, как не потерять доверие потребителей. Когда клиенты вступают в контакт с искусственным интеллектом, они должны быть четко проинформированы и проинформированы о том, как он работает.
Источник: EP, 22.04.2020