هوش مصنوعی چیست و چه خطراتی دارد؟

هوش مصنوعی و تصمیم گیری خودکار نه تنها مزایا، بلکه خطرات خاصی را نیز به همراه دارد.

هوش مصنوعی چیست و چرا می تواند خطرناک باشد؟

الگوریتم های یادگیری می توانند حجم وسیعی از اطلاعات را در مدت زمان کوتاهی پردازش کنند که فراتر از توانایی های مغز انسان است. بنابراین، برنامه های کاربردی مبتنی بر هوش مصنوعی در حال حاضر در زمینه های بیشتر و بیشتری مورد استفاده قرار می گیرند. آنها در امور مالی، مراقبت های بهداشتی، آموزشی یا حقوقی غایب هستند. با این حال، تنها اتکا به آنها خطرات خاصی را به همراه دارد، به خصوص اگر به الگوریتم ها اجازه دهیم بدون نظارت مردی از گوشت و خون تصمیم بگیرند. الگوریتم‌ها از الگوهای تکراری یاد می‌شوند که در مقدار داده‌ای که ما به آنها می‌دهیم مشاهده می‌کنند. مشکل زمانی به وجود می آید که این داده های ورودی منعکس کننده تعصبات در جامعه ما باشد.

وقتی هوش مصنوعی تصمیم می گیرد

هوش مصنوعی به طور فزاینده ای در به اصطلاح سیستم های تصمیم گیری الگوریتمی (ADS) استفاده می شود. اثرات این تصمیم‌ها گاهی اوقات می‌تواند بسیار جدی باشد، برای مثال زمانی که یک برنامه کامپیوتری تصمیم می‌گیرد که آیا شما واجد شرایط دریافت وام بانکی یا درمان هستید، آیا باید شما را به شغلی که برای آن درخواست می‌دهید ببرند یا شما را زندانی کنند یا خیر. اگر به‌صورت الگوریتمی داده‌های اشتباهی را ارائه کنیم، آنها می‌توانند یاد بگیرند که مانند ما «تعصب» باشند و از تعصبات ما کپی کنند. به عنوان مثال، مواردی وجود دارد که برنامه های فیلترینگ جویندگان کار، زنان را مورد تبعیض قرار داده است. درست مانند مردم.

چگونه در عصر هوش مصنوعی از مصرف کنندگان محافظت کنیم؟

توسعه هوش مصنوعی و تصمیم گیری خودکار نیز این سوال را مطرح می کند که چگونه اعتماد مصرف کننده را از دست ندهیم. هنگامی که مشتریان با هوش مصنوعی در تماس هستند، باید به وضوح از نحوه عملکرد آن مطلع و مطلع شوند.

منبع: EP, 22.4.2020