Европейският парламент поиска ограничаване на изкуствения интелект в правоприлагането

Използването на изкуствен интелект от полицейските органи беше във фокуса на пленарното заседание на Европейския парламент в началото на тази седмица.

За да се избегне дискриминация и да се гарантира правото на неприкосновеност на личния живот, европарламентът настоява за строги предпазни мерки при използването на изкуствен интелект в правоприлагането. В резолюция, приета с 377 гласа "за", 248 гласа "против" и 62 гласа "въздържал се", евродепутатите ясно изразиха своята позиция относно рисковете от алгоритмична пристрастност в приложенията на изкуствения интелект и необходимостта от човешки надзор, за да се предотврати дискриминацията. Докладчик по резолюцията е евродепутатът Петър Витанов, който назова основните притеснения, относно използването на изкуствения интелект от полицейските органи.

"Целта ни като законодатели не е да спираме технологическият прогрес, а по-скоро да рамкираме неговата употреба, особено в сферата на правоприлагането. Има редица случаи, които доказват че използването на различни приложения и апликации на изкуствения интелект от полицейските служби води до дискриминация и нарушаване на основни човешки права", поясни Петър Витанов.

Един от основните проблеми по думите му, е системата за лицево разпознаване на обществени места, която има за цял да разпознава потенциални извършители на престъпления, на база биометрични данни и лицеви характеристики.

Според Петър Витанов тази система води до дискриминация и нарушава правата на хората.

"Американски доклад показва, че най-често обект на такъв вид дискриминация са хората от по-бедните прослойки, тези с чужди имена, източноевропейските граждани, както и цветнокожите. Наскоро участвах в една конференция, на която майка на момче, плачейки обясни, че нейният син е пострадал от системата за лицево рапзознаване и е бил третиран като потенциален престъпник само защото алгоритъмът на изкуствения интелект казва така. Проблемът е, че често тези системи изкривяват резултатите по начин, който дискриминира хората и променя техните съдби", коментира още евродепутата.

Европейският парламент изразява свяота загриженост и от използването на биометрични данни за дистанционно идентифициране на хора. Като пример бяха посочени вратите за граничен контрол, които използват автоматизирано разпознаване и проектът iBorderCtrl ("интелигентна система за детектор на лъжата" за външните граници на ЕС). Членовете на европарламента настояват те да бъдат преустановени, като настояват Комисията да започне производства за установяване на нарушения срещу държавите членки, ако е необходимо.

Чуйте подробностите в репортажа на Иван Барбов: