Българско национално радио © 2022 Всички права са запазени

Иновации и регламенти

Натали Невжан: Права за роботите? Заключете тази врата!

Стоян Ставру: Правото трябва да приеме ръкавицата, която му хвърлят технологиите

Роботът може да е по-компетентен за някои конкретни и елементарни неща, но все още няма машина, която да може да замени хората. Мнението е на Натали Невжан, експерт по право и етика в областта на изкуствения интелект. Тя е преподавател в университета в Артоа и член на комисията по етика на френския Национален център за научни изследвания.

Известният хуманоиден робот София, който гостува и в България преди време, е гражданин на Саудитска Арабия от 2007 година. В Япония друг робот получава лична карта. Тези факти припомня Натали Невжан, защитавайки твърдо консервативният си подход в дебатите по темата.

Роботите нямат права, казва Натали Невжан и припомня, че само преди време Европейският парламент е предвиждал да даде правен статут на автономните роботи. 

Натали Невжан Снимка: Добромир Видев

Натали Невжан е част от групата на 285 юристи, психолози, медици, философи, изследователи от всички области, написали отворено писмо, за да се противопоставят на идеята да се даде правен статут на роботите. В петицията си те са посочили, че даването на правен статут на роботите и системите на изкуствен интелект създава неприемлив морален риск.

Непредвидими ли са роботите

„Ако автономните роботи и изкуственият интелект имат отделен правен статут, дефиницията за отговорност ще бъде изцяло променена. Отговорността в случай на щета, причинена от такова устройство, не би могла да бъде доказана. Не е вярно! В Европа има правила, които са приложими при тези случаи. А директивата за дефектните роботи е от 1985-та година. И там може да се уточни каква е отговорността на ползвателя и производителя. Във Франция имаме, например т.нар. отговорност за грешка. Новото законодателство предвиждаше, че поведението на робота е непредвидимо и се опитваше да се прехвърли отговорността към производителя. В ЕС обаче вече има правила, задължаващи производителя да вземе мерки машината да е безопасна. Тоест, в ЕС не се допуска да се продава машина, която да причини щета на живо същество. Машините в същото време не са непредвидими“, подчертава тя.

„И ако има бъг в робот, който дава хапчета на болен, това трябва да бъде предвидено. Дори и фактът, че човек може да бъде убит от робот - със сигурност това не би станало по желание на робота. Това явно ще стане заради дефект в замисъла на машината“, коментира Натали Невжан.

Роботите са като консервни кутии - нямат нито воля, нито съзнание, не страдат и нямат чувства, изтъква още Натали Невжан.

Роботите са по-компетентни за дадена конкретна задача. Могат да играят на шах, умеят да хващат топка и могат да се самообучават. Но ако един робот може да хваща топка, а му се хвърли плюшена играчка, той няма да съумее да я хване и отново ще трябва да започне самообучение. Роботът, предназначен да се грижи за възрастен човек, е още в лабораториите, защото е много трудно да се създаде машина, която дори да може да слуша човешкия език, а после и да реагира и да има адекватно поведение на това, което й се казва. Дори само ходенето е нещо много трудно.“

Човекът отчита грешката на машината

Ако все пак се създаде машина, която има чувства и желания, съществува рискът да постави своите чувства и желания пред нашите и тогава може да ни навреди. За щастие, все още не съществува такава машина, човекът все още е необходим, той единствен може да забележи момента, в който машината греши, отбелязва експертът по право и етика в областта на изкуствения интелект Натали Невжан. Тя обаче предупреждава, че човекът върви все повече към желанието си да очовечи робота и изкуствения интелект.

Изследователите работят върху емпатията и комуникацията между човек и машина, за да направят робота приемлив - дават му например симпатична физиономия, защото ако е сладък и приятен, ще имаме повече желание да общуваме с него. Работи се и с гласа на машините - да е мил и нежен, да насърчава човека да говори. Има дори машини, които правят малки мимики и издават звуци, наподобяващи смях. Според изследванията несъзнателно това насърчава хората да говорят на машината. Дори начинът, по който са произнесени думите и скоростта, с която се говори, имат значение.“

Връзката между човека и робота

„Има много начини да се създаде желание у човека да общува с машината - например роботът може да каже "обичам те", "ти си важен за мен" и човек, който не е осведомен, би повярвал, че роботът има истински емоции. Ето ви пример, дори да няма красиво лице. Войниците персонифицират машините. Особено онези с веригите, които обезвреждат бомби. Въпреки това, войниците смятат, че роботите им спасяват живота и им дават имена на свои приятели. Има случаи дори на погребения на машини, а някои войници изпадали в депресия, когато роботът, с който работят, експлоадира. Представете си сега реакцията на хуманоиден робот, който всеки ден ти казва "обичам те". Представете си робот, който обслужва възрастен човек или му прави компания. Какво трябва да се направи, за да не изпадат хората в такава заблуда“, пита Невжан.

„Макар изследователите да се опитват да създадат машина, която да прилича на човек, все още това не може да бъде направено. Дори и да си представим, че съществува система, в която са включени всички софтуери, не може да се достигне до създаване на съзнание. Затова съм против роботът да бъде разглеждан като правен субект. Това според мен означава, че е третиран като човешко същество. И възникват въпросите за даване на права и поемане на отговорност. Роботът технически е неспособен да разсъждава. Как може да разбере, че е причинил злополука?! Това би дало възможности производителят да има по-малка отговорност за бъгове, смята Натали Невжан.

Натали Невжан смята, че е важно да се концентрираме върху етичните въпроси на изкуствения интелект - как ние, хората, ще живеем в общество, пълно с машини. Тя изтъква и сега съществуващите проблеми в междучовешките отношения и отслабването на социалните връзки заради мобилните телефони.

„Хората предпочитат да влязат в социалните мрежи, вместо да общуват с човека срещу себе си, в ресторантите даже двойките понякога не си говорят, казва Натали Невжан. По думите й въпросите, свързани с правата на човешки общности, са по-важни от дискусиите за правата на роботите.

Роботите не бива да имат права

„Вероятно ще бъдете шокирани. Но според мен не трябва да има дискусионни групи по никакъв начин по отношение на правата, които се дават на машините. От една страна поради това, че те нямат съзнание, не могат да имат права и не трябва да имат права. Ако решим да мислим да създаваме такива групи и да обсъждаме тези процеси, това би означавало, че ние вече вървим към едно съгласие, че трябва да признаем права. Искам възможно най-здраво да се заключи тази врата. Преди да обсъждаме правата на роботите и изкуствения интелект, трябва да помислим за правата на жените, правата на малцинствата… Имаме толкова много битки за водене. Защо да водим битка, отнасяща се до съзнанието на една машина?“

Това според Натали Невжан би позволило на производителите да не поемат никаква отговорност за това, което създават, а на един глобален пазар те трябва да бъдат отговорни за това, което продават.

„Аз например се боря за създаване на изкуствен интелект, който да бъде инструмент, оръдие и да се използва от човека. Можем да имате робот, например в болниците, който ще позволи сестрите да не носят прекалено тежко оборудване, роботи, които да вадят химически продукти вместо човека. Искам да стане така, че всички тези машини да служат на обществото. Да ни дават нещо, а не да ни отнемат от нашата свобода“, категорична е Натали Невжан.

Докторът по право и философия Стоян Ставру откроява две страни на въпроса за правата на машините. Едната е психологическа и се корени в опита на производителите да създадат връзка между човека и робота, при която човек разпознава в машината „същество“, подобно на него, с неговата психика, желания и страхове. Юридическата страна пък е формална – тя няма цел да превърне робота в морален субект, а цели по-скоро разпределение на риска.

Регламентите изостават от иновациите, които се движат със съвсем различно темпо, а правото винаги е догонващо, признава Стоян Ставру, който би отворил вратата, затворена от Натали Невжан. Според него един от основните проблеми в технологиите се корени "в предвидимостта на рисковете, които те създават", особено когато имат социално значение. Ставру дава пример с робот, който се грижи за възрастни хора и посочва, че тук вече е на ход социалната функция на роботиката, а тя би изисквала регулация. 

"Правото определено трябва да приеме тази хвърлена му ръкавица от технологиите", убеден е Стоян Ставру. 

Какви са дилемите оттук нататък? Мненията чуйте в звуковите файлове.

Снимки в текста: ЕПА/БГНЕС

БНР подкасти:

Новините на Програма „Хоризонт“ - вече и в Instagram. Акцентите от деня са в нашата Фейсбук страница. За да проследявате всичко най-важно, присъединете се към групите за новини – БНР Новини, БНР Култура, БНР Спорт, БНР Здраве, БНР Бизнес и финанси.
ВИЖТЕ ОЩЕ
Мартин Колев

Мартин Колев, МВнР: Ние сме най-бедното министерство

Средната заплата в системата на Министерството на външните работи е 1400 лева чисто. Над половината служители са потвърдили готовността си да се включат в стачни действия. Подкрепа за ефективния протест има от всички дирекции в министерството. Това обясни пред БНР Мартин Колев, председател на професионалното обединение на държавните служители от..

публикувано на 02.12.22 в 07:48

Земеделци блокират АМ "Струма" утре до Симитли, несъгласни със Стратегическия план 2021-2027

Земеделски производители ще блокират АМ "Струма" до Симитли утре в 11 часа . Те са недоволни от Стратегическия план за земеделието за следващия програмен период. "Почти всичко, което ни касае, е проблемно", заяви пред БНР Иван Чалъков от Съюза на животновъдите в България. Той упрекна Министерството на земеделието в нарушени срокове..

публикувано на 30.11.22 в 09:40

Архитект: Държавата да даде приоритет за енергийното обновяване на културно наследство

Как да бъдат енергийно ефективни стари сгради, които са паметници на културата, ще обсъждат на международен форум български и италиански специалисти и институции. Сградата на посолството на Италия в София ще бъде обновена по проект за енергийна ефективност. "При нас липсва ясна схема за приоритетите при финансиране, свързани с..

публикувано на 29.11.22 в 09:17
Калоян Стайков

Калоян Стайков: Програмата за тока на небитовите потребители е второто перо в бюджета след пенсиите

Първоначално имаше логика помощта за бизнеса да е за всички компании, защото дойде като гръм от ясно небе. Оттам нататък логично беше Министерството на финансите и Министерството на енергетиката да изработят общ механизъм за диференциране на помощта за различните небитови потребители. Това мнение изрази пред БНР Калоян Стайков, главен..

публикувано на 29.11.22 в 08:42
Илюстрация: Георги Цветков

Елица Баракова: "Щедрият вторник" е ден за светлина върху каузите

В повече от 130 държави по света днес отбелязват "щедрия вторник" "Хората се чувстват пълноценни, намират смисъл в своето забързано ежедневие да бъдат полезни за някой друг. Много хубав празник е "щедрият вторник", каза пред БНР Елица Баракова, изпълнителен директор на фондация BCause. Всеки може да хареса кауза или история, която да..

публикувано на 29.11.22 в 07:06

САЩ ще помагат на Тайланд да разработи малки ядрени реактори

САЩ ще помогнат на Тайланд да разработи малки ядрени мощности посредством нов клас малки реактори като част от програма, насочена към борба с климатичните промени, обяви по време на визита в Банкок в събота вицепрезидентката Камала Харис, предаде АФП. Белият дом съобщи, че подкрепата е част от неговата Net Zero World инициатива, която бе..

публикувано на 27.11.22 в 07:57
Владислав Апостолов

"Културни войни" с Владислав Апостолов: Либералите си искат "Туитър"-а обратно

Български институции и редови граждани се надпреварват да канят най-богатия човек Илон Мъск на родна почва, след като сравни снимка на Белоградчишките скали с фентъзи игра в новата си придобивка за 44 милиарда долара – социалната мрежа "Туитър". Готови сме за горещо посрещане на необуздания и непредвидим магнат, баща на десет деца, който..

публикувано на 26.11.22 в 13:45