Штучний інтелект і автоматизоване прийняття рішень приносять не тільки переваги, але й певні ризики.
Що таке штучний інтелект і чому він може бути небезпечним?
Алгоритми навчання можуть обробляти величезні обсяги інформації за короткий проміжок часу, що перевищує можливості людського мозку. Тому програми на основі штучного інтелекту зараз використовуються у все більшій кількості областей. Їх немає у фінансах, охороні здоров’я, освіті чи праві. Однак покладатися лише на них несе певні ризики, особливо якщо ми дозволимо алгоритмам приймати рішення без нагляду людини з плоті та крові. Алгоритми вивчаються на основі повторюваних шаблонів, які вони спостерігають у кількості даних, які ми їм надаємо. Проблема виникає, коли ці вхідні дані відображають упередження в нашому суспільстві.
Коли вирішує штучний інтелект
Штучний інтелект все частіше використовується в так званих системах алгоритмічних рішень (ADS). Наслідки цих рішень іноді можуть бути дуже серйозними, наприклад, коли комп’ютерна програма вирішує, чи маєте ви право на банківську позику чи лікування, чи повинні вони прийняти вас на роботу, на яку ви претендуєте, чи ув’язнити вас чи ні. Якщо ми алгоритмічно надамо неправильні дані, вони можуть навчитися бути «упередженими», як і ми, копіюючи наші упередження. Наприклад, є випадки, коли програми фільтрації шукачів роботи дискримінували жінок. Як і люди.
Як захистити споживачів у епоху штучного інтелекту?
Розвиток штучного інтелекту та автоматичного прийняття рішень також викликає питання, як не втратити довіру споживачів. Коли клієнти стикаються зі штучним інтелектом, вони повинні бути чітко проінформовані та поінформовані про те, як він працює.
Джерело: EP, 22.4.2020