Забрана за използване на ИИ има в сфери, които застрашават правата на гражданите, системи за биометрична категоризация, основани на нецеленасочено извличане на лицеви изображения от интернет или от записи от видеонаблюдение. Изкуствен интелект няма да се ползва за разпознаване на емоции на работното място и в училищата, да ни поставя социална оценка (спомнете си филма „Кръгът“ от 2017–а), прогнозиране на престъпление (въз основа на профилиране или оценка на характеристики). Ще е забранено ИИ да манипулират човешкото поведение (по-добре не питайте замисления като психотерапевт чатбот "Елиза", който не помогна, а напротив, беше обвинен, че е довел белгиец до самоубийство). Новият регламент слага известни спирачки при използването на ИИ от правоприлагащите органи. Изключения се правят за целенасочено търсене на изчезнало лице или предотвратяване на терористично нападение.
Това не е закон, който има отношение към всяка технология, задвижвана от изкуствения интелект, подчертава евродепутатът Ева Майдел. Като основен отговарящ за мнението на Комисията по промишлеността за Акта за изкуствения интелект Майдел хвали преимуществата му. "Колкото по-рисково е използването на технологията, на толкова повече проверки подлежи", твърди тя. По думите ѝ, регулацията няма да се отрази на бизнеса, който използва ИИ.
"Поставихме много и различни мерки за подкрепа на малките и средни компании, както и доста по-стриктен режим за някои от най-големите. Фирмите, които използват ИИ за нискорискови ползи, не попадат в закона. Към момента, на базата на големината на компанията, обема от данни, които използва и развитието на тази технология, може би единствената компания, която попада, условно го казвам, може би е Open AI. Вярвам, че сме намерили що-горе добър баланс - иновациите и регулациите."
Следващата ЕК трябва да мисли как да помага на компаниите да внедряват тази технология, обяснява още Майдел. Изкуственият интелект може да бъде истински двигател на нашите индустрии. Ако те се възползват от потенциала му, могат да станат водещи на световно ниво, допълва тя.
"ИИ може да бъде истински двигател на нашите икономики. В момента само 11% от европейските компании го ползват или усвояват под някаква форма тази технология. В момента разчитаме за над 80% от цифровите продукти и услуги на държави извън ЕС."
По данни на НСИ за 2023-та година 3,6% от фирмите у нас са използвали технологии с изкуствен интелект. Използването на ИИ от фирмите е начинът, по който може да се сбъдне оптимистичната прогноза в доклад на Световната банка как България може да стигне средният стандарт на живот в Европа. В това вярва Добромир Иванов от Българската предприемаческа асоциация БЕСКО.
ИИ дава възможност на една компания да увеличи многократно добавената стойност на това, което прави, смята Иванов. Притеснението му касае времето, в което европейското законодателство дойде за прилагане у нас – "като българи да си завържем ръцете" заради всеобщото разбиране, че институциите у нас отсъстват и не са добре подготвени, затова решението много често е "дай в закона да забраним всичко възможно и така се подсигуряваме".
Европейските законодатели обещават на национално равнище да има създадени регулирани системи, където да се правят изпитания на реални технологии с ИИ. И е сигурно, че те ще бъдат достъпни за малките и средни предприятия и стартиращите предприятия, за да се разработи и обучи новаторски ИИ, преди пускането му на пазара. На европейско ниво ще има офис за ИИ, който ще следи как компаниите прилагат закона. На местно ниво също ще има регулатори. Според Надя Шабани от Българския център за нестопанско право, обтекаемите категории за ограниченията и неподготвеността на националните органи за прилагане на закона ще бъдат проблем.
"Голямата тема ще бъде кой, как и в какъв контекст ще прилага това законодателство, ще има ли достатъчно инвестиции в националните власти. Дали няма да е по-подходящо самите оценки за съответствие и прилагане да се правят от единен европейски орган, където можеш да имаш гаранции, че методът се прилага еднакво за всички."
Шабани напомня, че "дяволът е в детайлите и накрая, въпреки добрите намерения на Акта може да се окажем в среда, в която допълнително увреждаме и потенциала, и защитата на правата".
Положителна страна на регламента е, че са засегнати моделите с общо предназначение. Но комбинацията между възможностите на изкуствения интелект и алгоритмите на социалните мрежи вече поставят въпроса за регулация на модерирането на съдържанието, посочва Стефан Ангелов от Програма "Достъп до информация" добавя.
"В Акта за ИИ при засягане на основни права имаме право да достигнем до това как е взето решение спрямо нас. Развитието не е лошо, но не се различава рязко от общия регламент за защита на данните, който също ни дава възможност за контрол върху автоматизираното вземане на решения."
"4 години го работим. Когато започнахме, нямаше ChatGPT. В България за ИИ се заговори на третата година от нашето законодателно приключение", коментира евродепутатът Петър Витанов.
"Постарахме се да направим модела устойчив – първо, човек отгоре, второ, насърчаване на технологиите, трето, минимизиране на рисковете, които технологии носят. Дори с риск за забраняване на технологии, които носят пари."
Така Петър Витанов успокоява притесненията на неправителствения сектор, още непрочел окончателните текстове на закона на ЕС за ИИ. Регламентът ще мине през финална проверка и се очаква да бъде окончателно приет преди края на законодателния мандат. Законодателството също трябва да бъде официално прието и от Съвета. Регламентът ще влезе в сила двадесет дни след публикуването му в официалния вестник и ще бъде напълно приложим 24 месеца след влизането му в сила.
Поля Каньова от Министерството на електронното управление, което води диалога за етичното прилагане на ИИ с НПО и технологичния сектор е на мнение, че е нужен широк обществен дебат по темата. Според нея са необходими стандарти, които максимално гарантират защитата на правата и интересите на гражданите, особено на уязвими групи.
Каньова набляга на повишаването на цифровите умения на гражданите от ранна детска възраст и на учене през целия живот, за да сме в крак с технологиите и да използваме максимално ИИ.
В средата на март Общото събрание на ООН одобри първата си глобална резолюция за изкуствения интелект. Тя цели да насърчи защитата на личните данни, следенето на ИИ за рискове и опазването на човешките права, заявиха представители на ООН. Документът е необвързващ, внесен е от 123 държави и подкрепен без гласуване от 193 страни членки на ООН.
