Ефирни телефони: 02 963 56 50 и 02 963 56 80
Размер на шрифта
Българско национално радио © 2024 Всички права са запазени

Как да се предпазим от измами, свързани с AI?

Снимка: Радио София

Идентичност (deep fake, AI-powered voice synthesis) - как може да се автоматизира изкуствения интелект, как може да се ползва и как да се предпазим от евентуални измами. По темата говори Красимир Коцев.

Той e основател и управител на SoCyber Ltd. Голяма част от професионалния си опит придобива в индустрията за информационна сигурност. Започва като кибер ентусиаст, когато е на 14, прекарвайки дните си в учене как да прониква в мрежи и системи. През годините работи като анализатор по мрежова и системна сигурност. През 2018 г. стартира компанията за киберсигурност SoCyber, специализирана във Vulnerability Assessment, Penetration Testing, Red Teaming & Social engineering и други дисциплини за тестване на сигурността. Коцев е отличен в топ 100 на най-влиятелните IT личности в България за 2023, получава награда от Forbes 30 under 30 за създаването на платформата за управление на уязвимости – Kikimora.io, отделен софтуерен продукт на SoCyber. Таргет за Kikimora са компании от финансовата сфера, сферата на критичната инфраструктура и здравеопазването.

"Ние сме "етични хакери". Ние сме хората, които проверяват сигурността в една организация и казват къде са пробойните. Откъде някой може да източи данните на служителите, или пък на клиентите на дадена организация и по какъв начин може да се злоупотреби с тях. Представете си една критична инфраструктура, например енергийна компания, чиято работа е саботирана в следствие на кибер атака. Това е нещото, което ние правим като дейност. Оттам нататък се роди идеята за един инструмент, който чрез изкуствен интелект да може да помага на такива организации, а и не само. Също така и на финансови организации и такива в сферата на здравеопазването да управляват риска от тези кибер уязвимости по много по-добър начин", отбеляза Коцев.

Той сподели, че в международен мащаб има доста случаи в сферата на здравеопазването на кражба на пациентски данни и клинична информация, а и не само. Всяко едно устройство, включително и оборудването в болниците вече е свързано с интернет и с една кибер атака то може лесно да бъде саботирано. Известни са и смъртни случаи в следствие на кибер атаки.


"С навлизането на изкуствения интелект имаме добри и лоши новини. Лошите са, че хакерите са една стъпка напред. Тоест, чрез AI могат вече да адаптират зловредния си код. Традиционната защита работи на база на т. нар. "сигнатури". Всеки зловреден код има изграден модел на поведение и защитата засича този модел на поведение и конкретно този софтуерен код. Представете си обаче един вирус, който и при хората, който постоянно може да се адаптира и да сменя формата и облика си. Това нещо е възможно именно чрез AI. Когато кодът се модифицира в реално време в движение той се опитва да заобиколи защитната система, било то защитна стена или крайна работна станция. Когато този вирус започне да придобива различни форми, той може да се репликира в хиляди различни варианти и да заобиколи защитата. Добрите новини са, че компаниите, които се занимават с кибер сигурност, в това число и ние, разработват системи, които също така се базират на AI или на машинно обучение, за да засичат аномалии в поведението и такъв нестандартен тип подход и поведение от зловредния софтуер", поясни Коцев.

Относно уязвимостта на българските институции той посочи, че в последните години се наблюдава подобрение в сигурността, но те още са една стъпка назад пред частните компании. Това е така, защото липсва достатъчно голям бюджет и експерти.

Какво е deep fake?

По думите на Коцев от 2021 година в европейското законодателство се работи по правна рамка, която да регламентира използването на ИИ във видеа, снимки, звукови материали и т. н. През месец декември 2023 г. тази рамка официално е била финализирана, но оттук нататък за да стане тя факт може да отнеме и до няколко години. В Китай е въведена най-строгата забрана за употребата на AI със злонамерени цели.

Коцев отбеляза, че кражбата на глас се случва все по-често, тъй като все по-често са достъпни публични инструменти, които позволяват на всеки да натренира свой собствен модел с предварително избрано лице и глас на някоя потенциална жертва, след което да разработи идентично копие.

"От друга страна за да разработим един добре пресъздаден модел е необходимо да разполагаме с доста данни. Например, ако искаме да копираме изображението на даден човек са необходими като минимум около 1500 кадъра, за да имаме негово прилично копие. От гледна точка на гласово копиране също е необходим чист аудио запис, от който ние да извлечем гласа и интонацията на лицето, което се опитваме да копираме. Аз смятам, че потенциална жертва на първо време по-скоро са политически и публично известни личности, които имат сериозно медийно присъствие и присъствие в социалните мрежи.

Какви са инструментите, които засичат фалшиво видео съдържание?

"По отношение на порнографското съдържание има хора, които чрез AI създават перфектната си половинка, която не могат да срещнат никъде в реалния живот. Това е спорно колко е проблем, или е в полза на обществото. Инструменти вече има и всъщност има няколко метода, по които можем да разпознаем едно съдържание дали е фалшиво, или не. Когато имаме копирано изображение на даден човек с гласови показатели първото нещо, по което можем евентуално да се ориентираме дали този образ е фалшив е по мигането на очите и по говора, спрямо местенето на устните на този образ. Това много често е индикация, че образът е фалшив, когато има разминаване между устните и това, което се казва. От друга страна трябва да отбележим, че AI копира много добре фронталната част на лицето на един човек, но ако ние помолим този човек да се завърти в профил, в доста голяма част от случаите това ще е ясна индикация и ще видим, че образът е фалшив и не отговаря на реалната ситуация. Когато обаче говорим за видеа, там вече съществуват инструменти, които също се базират на AI и на машинно обучение. Тези инструменти могат да разпознаят дали едно видео е фалшиво", каза Коцев.  

По думите му третият метод за разпознаване е, когато задаваме въпроси на човека. Ако ние задаваме странни въпроси, които обикновено това лице трябва да знае, отговорът няма да е толкова добър и ще разпознаем фалшивия образ. На 16 януари 2024 година от 20:00 ч. ще се проведе събитието "Изкуствен интелект и истински измами", на което Красимир Коцев ще бъде лектор и ще обясни как хората да се предпазят от вредите от AI. Ще има и демонстрации на копиране на образ и глас от предварително набелязана жертва.

Подробности можете да чуете в звуковия файл.

По публикацията работи: Никола Стоянов

БНР подкасти:



Последвайте ни и в Google News Showcase, за да научите най-важното от деня!
Бъдете наши приятели във Facebook, следвайте ни и в Instagram. За да научавате всичко най-важно, присъединете се към групите за новини – БНР Новини, БНР Култура, БНР Спорт, БНР Здраве, БНР Бизнес и финанси.
ВИЖТЕ ОЩЕ

В столичния район "Връбница" все още не е започнала обработката срещу кърлежи

Първото косене на тревните площи вече е завършило в почти всички столични райони, каза пред Радио София Надежда Бобчева – зам.-кмет по направление „Зелена система, екология и земеползване“. На места за започнали и вторите обработки. „Стараем се да увеличим броя на обработките. Когато времето е топло, най-нормалното нещо е да отидеш на разходка в..

публикувано на 18.04.24 в 09:32

Ще продължава да вали в планините, облачността остава значителна

Днес облачността ще е предимно значителна. В сутрешните часове валежи все още ще има в Източна България, но бързо ще спрат, съобщиха от НИМХ. Около и след обяд на много места в югозападната половина от страната отново ще има валежи, по-значителни в Родопската област. Ще остане ветровито, с умерен, в Дунавската равнина – силен северозападен вятър. С него..

публикувано на 18.04.24 в 07:35
Снимка: naukamon.eu

"Форум", 17.04.24: Зеленият преход и възможността икономиката да "позеленее"

Коментатори във "Форум" тази седмица са социологът Мила Минева и рапърът Матю Стоянов (Жлъч). Заедно с водещата Антония Каменичка, част от темите, които дискутираха бяха: - Възможен ли е зеленият преход? - Велоалеи срещу паркоместа - как се взимат решенията в София, как общуват гражданите? - Пропуснати ползи за българската икономиката, заради това,..

публикувано на 17.04.24 в 18:44

За 11 пъти избори – нула реформи в образованието

Фондация „Заедно в час“ публикува свой анализ, в който обръщат внимание на липсата на темата за качествено образование от страна на всички политическите лидери, така че от училищата да излизат подготвени за успешен живот хора. „През последните пет години българските граждани са избирали президент, парламент и местни ръководства осем пъти...

публикувано на 17.04.24 в 17:53

Зам.-кметът на София по строителството подава оставка

Зам.-кметът с ресор строителство Иван Матов подава оставка. Във фейсбук той написа:  Общинският съветник от ГЕРБ - СДС Георги Георгиев коментира пред БНР:  "Кабинетът на кмета се клати! Очевидно има големи проблеми там, за които ние алармирахме. Защо зам.-кметът на София си е подал оставката? Къде е кметът?  Кой ще изпълнява строителната..

публикувано на 17.04.24 в 16:30
Силвия Георгиева

Необходими са реформи за по-голяма финансова автономност на общините

Необходими са реформи за по-голяма финансова автономност на общините, стана ясно по време на заключителната пресконференция по проект „Развитие на фискалната децентрализация и подобряване на финансовото управление на местно ниво в България“. Националното сдружение на общините в Република България от години алармира за необходимостта от..

публикувано на 17.04.24 в 15:24

Фондация "Прочети София" отбелязва 10-годишния си юбилей с редица събития

От 4 до 6 април 2024 г.  в София се проведоха "Литературни срещи" . Изданието беше специално, защото започна с отбелязването на 10-годишния рожден ден на фондация "Прочети София" – организатор на събитието. Темата на пролетните "Литературни срещи" неслучайно е била "Порастване" – растежът като зрялост, като мъдрост, като фин баланс между..

публикувано на 17.04.24 в 15:15