Хиймэл оюун ухаан, автоматжуулсан шийдвэр гаргах нь зөвхөн ашиг тус төдийгүй тодорхой эрсдэлүүдийг авчирдаг.
Хиймэл оюун ухаан гэж юу вэ, яагаад аюултай байж болох вэ?
Сурах алгоритм нь хүний тархины чадвараас давж асар их хэмжээний мэдээллийг богино хугацаанд боловсруулж чаддаг. Тиймээс хиймэл оюун ухаанд суурилсан программуудыг одоо илүү олон салбарт ашиглаж байна. Тэд санхүү, эрүүл мэнд, боловсрол, хуулийн салбарт байхгүй. Гэсэн хэдий ч зөвхөн тэдгээрт найдах нь тодорхой эрсдэлтэй байдаг, ялангуяа бид алгоритмуудыг мах цустай хүний хяналтгүйгээр шийдвэр гаргах боломжийг олгодог. Алгоритмуудыг бидний тэжээж буй өгөгдлийн хэмжээгээр ажигладаг давтагдах хэв маягаас суралцдаг. Энэхүү оролтын өгөгдөл нь манай нийгэм дэх өрөөсгөл үзлийг тусгаснаар асуудал үүсдэг.
Хиймэл оюун ухаан таныг шийдэх үед
Хиймэл оюун ухаан нь алгоритмын шийдвэрийн систем (ADS) гэж нэрлэгддэг системд улам бүр ашиглагдаж байна. Эдгээр шийдвэрийн үр дагавар заримдаа маш ноцтой байж болно, жишээлбэл, компьютерийн программ таныг банкны зээлэнд хамрагдах эсэх, эмчилгээ хийлгэх эсэх, таныг өргөдөл гаргаж буй ажилд чинь хүргэж өгөх эсэх, шоронд хорих эсэхийг шийдэх үед. Хэрэв бид алгоритмын дагуу буруу өгөгдөл өгвөл тэд бидний өрөөсгөл үзлийг хуулбарлаж, бидэнтэй адил "ямар нэгэн" байж сурах болно. Тухайлбал, ажил хайгчдыг шүүх хөтөлбөрт эмэгтэйчүүдийг ялгаварлан гадуурхсан тохиолдол бий. Яг л хүмүүс шиг.
Хиймэл оюун ухааны эрин үед хэрэглэгчдийг хэрхэн хамгаалах вэ?
Хиймэл оюун ухаан, автоматаар шийдвэр гаргах хөгжил нь хэрэглэгчдийн итгэлийг хэрхэн алдахгүй байх вэ гэсэн асуултыг мөн урган гарч ирж байна. Үйлчлүүлэгчид хиймэл оюун ухаантай холбогдох үед энэ нь хэрхэн ажилладаг талаар тодорхой мэдээлэлтэй байх ёстой.
Эх сурвалж: EP, 2020.04.22