Yapay zeka nedir ve riskleri nelerdir?

Yapay zeka ve otomatik karar verme, yalnızca faydaları değil aynı zamanda belirli riskleri de beraberinde getirir.

Yapay zeka nedir ve neden tehlikeli olabilir?

Öğrenme algoritmaları, insan beyninin yeteneklerini aşarak çok büyük miktarda bilgiyi kısa sürede işleyebilir. Bu nedenle yapay zeka tabanlı uygulamalar artık her geçen gün daha fazla alanda kullanılıyor. Finans, sağlık, eğitim veya hukukta yoklar. Bununla birlikte, yalnızca onlara güvenmek belirli riskler taşır, özellikle de etten kemikten bir adam tarafından denetlenmeden algoritmaların karar vermesine izin verirsek. Algoritmalar, onları beslediğimiz veri miktarında gözlemledikleri tekrarlayan kalıplardan öğrenilir. Sorun, bu girdi verilerinin toplumumuzdaki önyargıları yansıtması durumunda ortaya çıkıyor.

Yapay zeka size karar verdiğinde

Yapay zeka, algoritmik karar sistemlerinde (ADS) giderek daha fazla kullanılmaktadır. Bu kararların etkileri bazen çok ciddi olabilir, örneğin bir bilgisayar programı bir banka kredisi veya tedavisi için uygun olup olmadığınıza, sizi başvurduğunuz işe götürmeleri gerekip gerekmediğine veya sizi hapse atıp atmayacağına karar verdiğinde. Algoritmik olarak yanlış veri verirsek onlar da bizim gibi "önyargılı" olmayı öğrenebilirler, bizim ön yargılarımızı kopyalayabilirler. Örneğin, iş arayan filtreleme programlarının kadınlara karşı ayrımcılık yaptığı durumlar vardır. Tıpkı insanların yaptığı gibi.

Yapay zeka çağında tüketiciler nasıl korunur?

Yapay zeka ve otomatik karar vermenin gelişimi, tüketici güveninin nasıl kaybedilmeyeceği sorusunu da gündeme getiriyor. Müşteriler yapay zeka ile karşılaştığında, nasıl çalıştığı konusunda net bir şekilde bilgilendirilmeli ve bilgilendirilmelidir.

Kaynak: EP, 22.4.2020