ЕС подготвя първия закон в света за изкуствения интелект

Тема на Росина Петрова

Update Required To play the media you will need to either update your browser to a recent version or update your Flash plugin.

Еврoпейският съюз подготвя първия в света закон, който да регулира изкуствения интелект. Първата важна стъпка вече е направена - Европейският парламент одобри правила, които да гарантират, че изкуственият интелект няма да се превърне в заплаха. Тези мерки предстои да бъдат обсъдени с държавите членки преди приемането на окончателния вариант на закона, което се очаква догодина.

Изкуственият интелект може да бъде дефиниран като способността на една машина да демонстрира умения, присъщи за хората - да разсъждава, да се учи, да планира или да твори. Това е ключова технология за бъдещето, която се развива с много бързи темпове и намира все повече полезни приложения - в областта на медицината, транспорта, производството.

Съществуват обаче и редица рискове за потребителите. Затова Европейският съюз определя областите, в които използването на изкуствен интелект може да крие високи рискове и въвеждат ясни правила и забрани в кои случаи той не може да бъда използван. Това посочи председателката на Европейския парламент Роберта Мецола:

"На първо място, технологията се развива, иновациите ни движат напред и откриват нови възможности. Като законодатели трябва да се възползваме от тези възможности. Не можем да си позволим да останем в застой и да се страхуваме от бъдещето. Второ, придвижвайки се напред, се нуждаем от ясни ограничения за изкуствения интелект. И тук има едно нещо, с което не може да се направи компромис. Всеки път, когато технологията напредне в развитието си, тя трябва да върви ръка за ръка с нашите фундаментални права и демократични ценности."

Приоритетът на Европейския парламент е системите с изкуствен интелект да бъдат безопасни, с ясни правила и ясен произход, да не дискриминират групи хора и да не вредят на околната среда. Също така технологията трябва да се контролира от хора, а не от автоматични системи. Брюскел залага нива на риск, на база на които въвежда съответни ограничения.

Сред предложените мерки е пълна забрана на използването на изкуствения интелект за биометрично наблюдение, разпознаване на емоции и профилиране от полицията. Нещо много важно - системите с генеративен изкуствен интелект, като ChatGPT, трябва изрично да указват, че съдържанието е създадено от изкуствен интелект.

Европейският парламент смята за високориско рискови системите с изкуствен интелект, които се използват за влияние на гласоподавателите при избори, като например приложения с изкуствен интелект в социалните мрежи. До европейския вот през юни догодина законът няма да е влязъл в сила, отбеляза Роберта Мецола, но подчерта, че се вземат мерки за предотвратяване на намеса в изборите:

"Законът за изкуствения интелект има срок за транспониране от две години, което означава, че той няма да влезе в сила до датата на изборите, но Законът за цифровите услуги ще бъде. Той влиза в сила на 1 септември. Това означава, че този акт може да помогне в борбата с дезинформацията и намесата в изборите, преди всичко чрез предоставяне на правила за премахване на незаконно съдържание. Всъщност законът за изкуствения интелект ще регулира системите, които могат да се използват за създаване и разпространение на такова съдържание."

Един от рисковете при разработването на изкуствен интелект е интегрирането на различни видове предубедености. Въвеждане на регулации на европейско ниво би помогнало на компаниите да избегнат това, смята IT-експертът Георги Костадинов, който използва възможностите на изкуствения интелект в областта на медицината:

"Ако самият човек е предубеден към определена група от хора и докато създава данните, я въвежда вътре, то и самият изкуствен интелект ще има същите предубедености. Имали сме такива примери с Google и с тяхната система за лицево разпознаване, където трудно разпознаваше афроамериканци и примати. Това беше много голям проблем преди 5 години. За щастие, бързо се разреши. Основният метод и начин, по който може да се разреши, е когато има напътствия при създаването на тези данни.

Една такава директива, която ЕС въвежда, би спомогнала компаниите, които разработват изкуствен интелект, да създават данните с някакъв вид, как да кажа, да е по-ясен начинът, по който са създадени тези данни и съответно да е ясно каква предубеденост може да има в тях. Може да накара компаниите да използват инструменти, които автоматично да разпознават предубедености и да предотвратяват такъв тип предубедености в данните."

Като всяка една технология изкуственият интелект може да се използва както за добри цели, така и за лоши в зависимост от това в какви ръце е попаднал, коментира експертът:

"Изкуственият интелект в нашата глава е като един нож. Той може да бъде както готварски инструмент, с който да сготвиш храна за 300 души, така и инструмент за убиване, за съжаление. Именно затова такъв тип директиви трябва да направят така, че да разпознават бързо грешното приложение на изкуствения интелект, или в области, където трудно може да се разпознае, то тогава да се ограничи използването на тази технология в тези области. Един такъв пример би могъл да бъде в областта на сигурността. Един алгоритъм там може да се използва както за предотвратяване на терористични атаки, така и за създаване на такива."

ChatGPT революционизира изкуствения интелект:

"Това, което направи, е да създаде един изключително силен алгоритъм, който да генерализира от множество на брой данни и съответно да може да създава ново съдържание на база на тези данни. В момента изкуственият интелект знае това, което ние знаем. Това е много ключово нещо, което много хора сякаш не предполагат. Ако приемем, че можем да съберем всички данни и знания на света и да обучим един алгоритъм, той пак ще знае това, което хората на света могат и имат достъп като знания, тоест няма как да знае неща, които ние не знаем на този етап.

Основният проблем обаче, който ChatGPT създава, бих казал, е тази зависимост на хората от него и ще виждаме все повече и повече хора да го използват. Според мен начинът, по който трябва да се използва тази технология, е с немалка доза критично мислене."

ChatGPT представлява своеобразна "заплаха" за образователната система, ако тя не се промени, смята експертът:

"Ако се върнем назад, с появата на Google, образователната система също имаше подобен тип "awakening call", тоест "събуждащ отговор" и трансформация. Изведнъж човечеството имаше достъп до цялата информация, която е споделена онлайн. А пък сега чрез ChatGPT не само има достъп до цялата тази информация на човечеството, но и може да се генерира ново съдържание върху нея.

Така че образователната система трябва да се трансформира в посока, в която не да прибягва към методите, с които да хваща дали се използва ChatGPT или не, а по-скоро – към въпроси, изпити, тестове, които не да оценяват доколко един човек е наизустил основата на материята, а да оценяват доколко е разбрала тази материя."

Новите технологии и изкуственият интелект със знак "плюс":

"Те вече работят в полза на човечеството. Например, една такава област е здравеопазването. Има технологии, които автоматично следят болничните легла, жизнените сензори и данни на хората и в случай че има някакъв вид аномалии, алармират специалиста. Има технологии, които го навигират по време на оперативната намеса. Има технологии, които автоматично разпознават и рано диагностицират онкологични и тежки заболявания.

В областта на транспорта – също. Почти всеки един автомобил, който се произвежда в днешно време, излиза с някакъв вид изкуствен интелект, който постоянно да следи пътната обстановка и човека. В случай че нещо се случи с пътната обстановка или с хората в колата, да алармира и дори своевременно да направи автоматични действия като например да отбие напълно автоматично и да извика медицинска помощ", посочи IT-експертът Георги Костадинов.

ЕС подготвя първия закон в света за изкуствения интелект

IT експертът Г. Костадинов: Регулациите биха помогнали на команиите разработчици да избягват предубедености