Българско национално радио © 2021 Всички права са запазени

Иновации и регламенти

Натали Невжан: Права за роботите? Заключете тази врата!

Стоян Ставру: Правото трябва да приеме ръкавицата, която му хвърлят технологиите

Роботът може да е по-компетентен за някои конкретни и елементарни неща, но все още няма машина, която да може да замени хората. Мнението е на Натали Невжан, експерт по право и етика в областта на изкуствения интелект. Тя е преподавател в университета в Артоа и член на комисията по етика на френския Национален център за научни изследвания.

Известният хуманоиден робот София, който гостува и в България преди време, е гражданин на Саудитска Арабия от 2007 година. В Япония друг робот получава лична карта. Тези факти припомня Натали Невжан, защитавайки твърдо консервативният си подход в дебатите по темата.

Роботите нямат права, казва Натали Невжан и припомня, че само преди време Европейският парламент е предвиждал да даде правен статут на автономните роботи. 

Натали Невжан Снимка: Добромир Видев

Натали Невжан е част от групата на 285 юристи, психолози, медици, философи, изследователи от всички области, написали отворено писмо, за да се противопоставят на идеята да се даде правен статут на роботите. В петицията си те са посочили, че даването на правен статут на роботите и системите на изкуствен интелект създава неприемлив морален риск.

Непредвидими ли са роботите

„Ако автономните роботи и изкуственият интелект имат отделен правен статут, дефиницията за отговорност ще бъде изцяло променена. Отговорността в случай на щета, причинена от такова устройство, не би могла да бъде доказана. Не е вярно! В Европа има правила, които са приложими при тези случаи. А директивата за дефектните роботи е от 1985-та година. И там може да се уточни каква е отговорността на ползвателя и производителя. Във Франция имаме, например т.нар. отговорност за грешка. Новото законодателство предвиждаше, че поведението на робота е непредвидимо и се опитваше да се прехвърли отговорността към производителя. В ЕС обаче вече има правила, задължаващи производителя да вземе мерки машината да е безопасна. Тоест, в ЕС не се допуска да се продава машина, която да причини щета на живо същество. Машините в същото време не са непредвидими“, подчертава тя.

„И ако има бъг в робот, който дава хапчета на болен, това трябва да бъде предвидено. Дори и фактът, че човек може да бъде убит от робот - със сигурност това не би станало по желание на робота. Това явно ще стане заради дефект в замисъла на машината“, коментира Натали Невжан.

Роботите са като консервни кутии - нямат нито воля, нито съзнание, не страдат и нямат чувства, изтъква още Натали Невжан.

Роботите са по-компетентни за дадена конкретна задача. Могат да играят на шах, умеят да хващат топка и могат да се самообучават. Но ако един робот може да хваща топка, а му се хвърли плюшена играчка, той няма да съумее да я хване и отново ще трябва да започне самообучение. Роботът, предназначен да се грижи за възрастен човек, е още в лабораториите, защото е много трудно да се създаде машина, която дори да може да слуша човешкия език, а после и да реагира и да има адекватно поведение на това, което й се казва. Дори само ходенето е нещо много трудно.“

Човекът отчита грешката на машината

Ако все пак се създаде машина, която има чувства и желания, съществува рискът да постави своите чувства и желания пред нашите и тогава може да ни навреди. За щастие, все още не съществува такава машина, човекът все още е необходим, той единствен може да забележи момента, в който машината греши, отбелязва експертът по право и етика в областта на изкуствения интелект Натали Невжан. Тя обаче предупреждава, че човекът върви все повече към желанието си да очовечи робота и изкуствения интелект.

Изследователите работят върху емпатията и комуникацията между човек и машина, за да направят робота приемлив - дават му например симпатична физиономия, защото ако е сладък и приятен, ще имаме повече желание да общуваме с него. Работи се и с гласа на машините - да е мил и нежен, да насърчава човека да говори. Има дори машини, които правят малки мимики и издават звуци, наподобяващи смях. Според изследванията несъзнателно това насърчава хората да говорят на машината. Дори начинът, по който са произнесени думите и скоростта, с която се говори, имат значение.“

Връзката между човека и робота

„Има много начини да се създаде желание у човека да общува с машината - например роботът може да каже "обичам те", "ти си важен за мен" и човек, който не е осведомен, би повярвал, че роботът има истински емоции. Ето ви пример, дори да няма красиво лице. Войниците персонифицират машините. Особено онези с веригите, които обезвреждат бомби. Въпреки това, войниците смятат, че роботите им спасяват живота и им дават имена на свои приятели. Има случаи дори на погребения на машини, а някои войници изпадали в депресия, когато роботът, с който работят, експлоадира. Представете си сега реакцията на хуманоиден робот, който всеки ден ти казва "обичам те". Представете си робот, който обслужва възрастен човек или му прави компания. Какво трябва да се направи, за да не изпадат хората в такава заблуда“, пита Невжан.

„Макар изследователите да се опитват да създадат машина, която да прилича на човек, все още това не може да бъде направено. Дори и да си представим, че съществува система, в която са включени всички софтуери, не може да се достигне до създаване на съзнание. Затова съм против роботът да бъде разглеждан като правен субект. Това според мен означава, че е третиран като човешко същество. И възникват въпросите за даване на права и поемане на отговорност. Роботът технически е неспособен да разсъждава. Как може да разбере, че е причинил злополука?! Това би дало възможности производителят да има по-малка отговорност за бъгове, смята Натали Невжан.

Натали Невжан смята, че е важно да се концентрираме върху етичните въпроси на изкуствения интелект - как ние, хората, ще живеем в общество, пълно с машини. Тя изтъква и сега съществуващите проблеми в междучовешките отношения и отслабването на социалните връзки заради мобилните телефони.

„Хората предпочитат да влязат в социалните мрежи, вместо да общуват с човека срещу себе си, в ресторантите даже двойките понякога не си говорят, казва Натали Невжан. По думите й въпросите, свързани с правата на човешки общности, са по-важни от дискусиите за правата на роботите.

Роботите не бива да имат права

„Вероятно ще бъдете шокирани. Но според мен не трябва да има дискусионни групи по никакъв начин по отношение на правата, които се дават на машините. От една страна поради това, че те нямат съзнание, не могат да имат права и не трябва да имат права. Ако решим да мислим да създаваме такива групи и да обсъждаме тези процеси, това би означавало, че ние вече вървим към едно съгласие, че трябва да признаем права. Искам възможно най-здраво да се заключи тази врата. Преди да обсъждаме правата на роботите и изкуствения интелект, трябва да помислим за правата на жените, правата на малцинствата… Имаме толкова много битки за водене. Защо да водим битка, отнасяща се до съзнанието на една машина?“

Това според Натали Невжан би позволило на производителите да не поемат никаква отговорност за това, което създават, а на един глобален пазар те трябва да бъдат отговорни за това, което продават.

„Аз например се боря за създаване на изкуствен интелект, който да бъде инструмент, оръдие и да се използва от човека. Можем да имате робот, например в болниците, който ще позволи сестрите да не носят прекалено тежко оборудване, роботи, които да вадят химически продукти вместо човека. Искам да стане така, че всички тези машини да служат на обществото. Да ни дават нещо, а не да ни отнемат от нашата свобода“, категорична е Натали Невжан.

Докторът по право и философия Стоян Ставру откроява две страни на въпроса за правата на машините. Едната е психологическа и се корени в опита на производителите да създадат връзка между човека и робота, при която човек разпознава в машината „същество“, подобно на него, с неговата психика, желания и страхове. Юридическата страна пък е формална – тя няма цел да превърне робота в морален субект, а цели по-скоро разпределение на риска.

Регламентите изостават от иновациите, които се движат със съвсем различно темпо, а правото винаги е догонващо, признава Стоян Ставру, който би отворил вратата, затворена от Натали Невжан. Според него един от основните проблеми в технологиите се корени "в предвидимостта на рисковете, които те създават", особено когато имат социално значение. Ставру дава пример с робот, който се грижи за възрастни хора и посочва, че тук вече е на ход социалната функция на роботиката, а тя би изисквала регулация. 

"Правото определено трябва да приеме тази хвърлена му ръкавица от технологиите", убеден е Стоян Ставру. 

Какви са дилемите оттук нататък? Мненията чуйте в звуковите файлове.

Снимки в текста: ЕПА/БГНЕС
Новините на Програма „Хоризонт“ - вече и в Instagram. Акцентите от деня са в нашата Фейсбук страница. За да проследявате всичко най-важно, присъединете се към групите за новини – БНР Новини, БНР Култура, БНР Спорт, БНР Здраве, БНР Бизнес и финанси.
ВИЖТЕ ОЩЕ
Владислав Христов

Натрупването на многословия в литературата и в кулинарията води до блокиране на сетивата

"Храната е част от основните стимули за творчество и си мисля, че когато храната не се приема само като обект за наяждане тя влиза в сферата на изкуството ", каза за БНР Владислав Христов, той е журналист, поет и фотограф. Автор е на рубриката "Големите творци и храната" в списание "Бакхус". По думите му литературните спорове не трябва..

публикувано на 01.08.21 в 09:00
Барикада от контейнери за боклук по време на генерална стачка в Бейрут, Ливан, 17 юни 2021 г. Стачката беше организирана в знак на протест срещу политическата и икономическа криза в страната на фона на непрекъснатото спиране на тока, високите разходи за живот и ниската покупателна способност, както и неспособността на политическите лидери да сформират правителство.

ЕС готов да наложи санкции на управляващия елит в Ливан

Европейският съюз обяви готовност да наложи санкции на управляващия елит в Ливан във връзка с политическата криза, която е завладяла страната, предаде АФП. В Ливан няма действащо правителство още от експлозията на пристанището в Бейрут през август миналата година. Това доведе страната до най-тежката икономическа криза, описана от..

публикувано на 31.07.21 в 08:07

43-ма бъдещи военни пилоти получиха първо офицерско звание

В Плевен първо офицерско звание получиха 43-ма курсанти от випуск “Раковски“ на Висшето военно въздушно училище „Георги Бенковски“. За проблемите пред единственото висше училище за военни пилоти , възстановено преди година, разказа пред БНР началник бригаден генерал Юлиян Радойски: "През тези години не можаха да натрупат практически опит, но..

публикувано на 30.07.21 в 16:52
Стефан Караджа

„Караул на паметта“ пред паметника на Стефан Караджа в Добрич

„Караул на паметта“ организират учители и ученици от ЕГ „Гео Милев“ в Добрич. Инициативата е по повод 153-та годишнина от смъртта на Стефан Караджа. Младежите са подготвили интересни факти за живота на революционера, направили са и вестник, който е бил издаден през 1935 година със статии и стихове за Стефан Караджа. Това е шестият поред..

публикувано на 30.07.21 в 08:50
Димитрина Петрова

Димитрина Петрова: По време на пандемията медиите бяха рупор на властта

По време на пандемията медиите у нас не са застанали на критична дистанция, а са се превърнали в рупор на властта - това установява проучване на Българската общност за либерална демокрация (БОЛД), Българския хелзинкски комитет и Сдружение „Маргиналия“. По време на пандемията е констатиран  проправителствен уклон , „особено на..

публикувано на 30.07.21 в 07:58
Лияна Панделиева

Лияна Панделиева: Санторини е много популярно място за фотосесии за двойки

Журналистката Лияна Панделиева посети Санторини заедно с 5 нейни приятели: „За първи път на такова място аз отидох с дрон и всяко излитане с дрона е това великолепно откритие на свободата на птица и изведнъж това, което виждаш се оказва или още по-красиво или фасадата е онова, което скрива нещо, което не е предвидено всички очи да видят",..

публикувано на 29.07.21 в 22:30

Програма „Хоризонт“ на БНР и „Пътна полиция“ започват кампания за намаляване на катастрофите

Програма „Хоризонт“ на БНР и „Пътна полиция“ започват кампания за намаляване на нарушенията от страна на шофьорите и ограничаване на катастрофите. Кампанията се казва „Летните послания на „Хоризонт“ и Пътната полиция“. „Лятото е изключително приятно за всички, защото са във ваканция, започват отпуските и човек си почива. Много е..

публикувано на 28.07.21 в 17:04