מהי בינה מלאכותית ומהם הסיכונים?

בינה מלאכותית וקבלת החלטות אוטומטיות מביאות לא רק יתרונות אלא גם סיכונים מסוימים.

מהי בינה מלאכותית ומדוע היא יכולה להיות מסוכנת?

אלגוריתמי למידה יכולים לעבד כמויות עצומות של מידע בפרק זמן קצר, ולעלות על היכולות של המוח האנושי. לכן, יישומים מבוססי בינה מלאכותית נמצאים כיום בשימוש ביותר ויותר תחומים. הם נעדרים בתחום הפיננסים, הבריאות, החינוך או המשפטים. עם זאת, הסתמכות רק עליהם טומנת בחובה סיכונים מסוימים, במיוחד אם ניתן לאלגוריתמים לקבל החלטות מבלי להיות בפיקוח של אדם בשר ודם. אלגוריתמים נלמדים מדפוסים שחוזרים על עצמם, שאותם הם צופים בכמות הנתונים שאנו מאכילים אותם. הבעיה מתעוררת כאשר נתוני הקלט הללו משקפים את הדעות הקדומות בחברה שלנו.

כאשר בינה מלאכותית מחליטה עליך

יותר ויותר נעשה שימוש בבינה מלאכותית במה שנקרא מערכות החלטות אלגוריתמיות (ADS). ההשפעות של החלטות אלו עשויות להיות לעיתים חמורות מאוד, למשל כאשר תוכנת מחשב מחליטה האם אתה זכאי לקבל הלוואה בנקאית או טיפול, האם היא צריכה לקחת אותך למשרה אליה אתה מגיש מועמדות, או האם לכלוא אותך או לא. אם אנו נותנים באופן אלגוריתמי את הנתונים הלא נכונים, הם יכולים ללמוד להיות "משוחדים" בדיוק כמונו, להעתיק את הדעות הקדומות שלנו. למשל, ישנם מקרים שבהם תוכניות סינון למחפשי עבודה הפלו נשים. בדיוק כמו שאנשים עושים.

כיצד להגן על צרכנים בעידן של בינה מלאכותית?

הפיתוח של בינה מלאכותית וקבלת החלטות אוטומטית מעלה גם את השאלה איך לא לאבד את אמון הצרכנים. כאשר לקוחות באים במגע עם בינה מלאכותית, יש ליידע אותם בבירור ולהודיע ​​להם כיצד זה עובד.

מקור: EP, 22.4.2020