Българско национално радио © 2021 Всички права са запазени

Иновации и регламенти

Натали Невжан: Права за роботите? Заключете тази врата!

Стоян Ставру: Правото трябва да приеме ръкавицата, която му хвърлят технологиите

Роботът може да е по-компетентен за някои конкретни и елементарни неща, но все още няма машина, която да може да замени хората. Мнението е на Натали Невжан, експерт по право и етика в областта на изкуствения интелект. Тя е преподавател в университета в Артоа и член на комисията по етика на френския Национален център за научни изследвания.

Известният хуманоиден робот София, който гостува и в България преди време, е гражданин на Саудитска Арабия от 2007 година. В Япония друг робот получава лична карта. Тези факти припомня Натали Невжан, защитавайки твърдо консервативният си подход в дебатите по темата.

Роботите нямат права, казва Натали Невжан и припомня, че само преди време Европейският парламент е предвиждал да даде правен статут на автономните роботи. 

Натали Невжан Снимка: Добромир Видев

Натали Невжан е част от групата на 285 юристи, психолози, медици, философи, изследователи от всички области, написали отворено писмо, за да се противопоставят на идеята да се даде правен статут на роботите. В петицията си те са посочили, че даването на правен статут на роботите и системите на изкуствен интелект създава неприемлив морален риск.

Непредвидими ли са роботите

„Ако автономните роботи и изкуственият интелект имат отделен правен статут, дефиницията за отговорност ще бъде изцяло променена. Отговорността в случай на щета, причинена от такова устройство, не би могла да бъде доказана. Не е вярно! В Европа има правила, които са приложими при тези случаи. А директивата за дефектните роботи е от 1985-та година. И там може да се уточни каква е отговорността на ползвателя и производителя. Във Франция имаме, например т.нар. отговорност за грешка. Новото законодателство предвиждаше, че поведението на робота е непредвидимо и се опитваше да се прехвърли отговорността към производителя. В ЕС обаче вече има правила, задължаващи производителя да вземе мерки машината да е безопасна. Тоест, в ЕС не се допуска да се продава машина, която да причини щета на живо същество. Машините в същото време не са непредвидими“, подчертава тя.

„И ако има бъг в робот, който дава хапчета на болен, това трябва да бъде предвидено. Дори и фактът, че човек може да бъде убит от робот - със сигурност това не би станало по желание на робота. Това явно ще стане заради дефект в замисъла на машината“, коментира Натали Невжан.

Роботите са като консервни кутии - нямат нито воля, нито съзнание, не страдат и нямат чувства, изтъква още Натали Невжан.

Роботите са по-компетентни за дадена конкретна задача. Могат да играят на шах, умеят да хващат топка и могат да се самообучават. Но ако един робот може да хваща топка, а му се хвърли плюшена играчка, той няма да съумее да я хване и отново ще трябва да започне самообучение. Роботът, предназначен да се грижи за възрастен човек, е още в лабораториите, защото е много трудно да се създаде машина, която дори да може да слуша човешкия език, а после и да реагира и да има адекватно поведение на това, което й се казва. Дори само ходенето е нещо много трудно.“

Човекът отчита грешката на машината

Ако все пак се създаде машина, която има чувства и желания, съществува рискът да постави своите чувства и желания пред нашите и тогава може да ни навреди. За щастие, все още не съществува такава машина, човекът все още е необходим, той единствен може да забележи момента, в който машината греши, отбелязва експертът по право и етика в областта на изкуствения интелект Натали Невжан. Тя обаче предупреждава, че човекът върви все повече към желанието си да очовечи робота и изкуствения интелект.

Изследователите работят върху емпатията и комуникацията между човек и машина, за да направят робота приемлив - дават му например симпатична физиономия, защото ако е сладък и приятен, ще имаме повече желание да общуваме с него. Работи се и с гласа на машините - да е мил и нежен, да насърчава човека да говори. Има дори машини, които правят малки мимики и издават звуци, наподобяващи смях. Според изследванията несъзнателно това насърчава хората да говорят на машината. Дори начинът, по който са произнесени думите и скоростта, с която се говори, имат значение.“

Връзката между човека и робота

„Има много начини да се създаде желание у човека да общува с машината - например роботът може да каже "обичам те", "ти си важен за мен" и човек, който не е осведомен, би повярвал, че роботът има истински емоции. Ето ви пример, дори да няма красиво лице. Войниците персонифицират машините. Особено онези с веригите, които обезвреждат бомби. Въпреки това, войниците смятат, че роботите им спасяват живота и им дават имена на свои приятели. Има случаи дори на погребения на машини, а някои войници изпадали в депресия, когато роботът, с който работят, експлоадира. Представете си сега реакцията на хуманоиден робот, който всеки ден ти казва "обичам те". Представете си робот, който обслужва възрастен човек или му прави компания. Какво трябва да се направи, за да не изпадат хората в такава заблуда“, пита Невжан.

„Макар изследователите да се опитват да създадат машина, която да прилича на човек, все още това не може да бъде направено. Дори и да си представим, че съществува система, в която са включени всички софтуери, не може да се достигне до създаване на съзнание. Затова съм против роботът да бъде разглеждан като правен субект. Това според мен означава, че е третиран като човешко същество. И възникват въпросите за даване на права и поемане на отговорност. Роботът технически е неспособен да разсъждава. Как може да разбере, че е причинил злополука?! Това би дало възможности производителят да има по-малка отговорност за бъгове, смята Натали Невжан.

Натали Невжан смята, че е важно да се концентрираме върху етичните въпроси на изкуствения интелект - как ние, хората, ще живеем в общество, пълно с машини. Тя изтъква и сега съществуващите проблеми в междучовешките отношения и отслабването на социалните връзки заради мобилните телефони.

„Хората предпочитат да влязат в социалните мрежи, вместо да общуват с човека срещу себе си, в ресторантите даже двойките понякога не си говорят, казва Натали Невжан. По думите й въпросите, свързани с правата на човешки общности, са по-важни от дискусиите за правата на роботите.

Роботите не бива да имат права

„Вероятно ще бъдете шокирани. Но според мен не трябва да има дискусионни групи по никакъв начин по отношение на правата, които се дават на машините. От една страна поради това, че те нямат съзнание, не могат да имат права и не трябва да имат права. Ако решим да мислим да създаваме такива групи и да обсъждаме тези процеси, това би означавало, че ние вече вървим към едно съгласие, че трябва да признаем права. Искам възможно най-здраво да се заключи тази врата. Преди да обсъждаме правата на роботите и изкуствения интелект, трябва да помислим за правата на жените, правата на малцинствата… Имаме толкова много битки за водене. Защо да водим битка, отнасяща се до съзнанието на една машина?“

Това според Натали Невжан би позволило на производителите да не поемат никаква отговорност за това, което създават, а на един глобален пазар те трябва да бъдат отговорни за това, което продават.

„Аз например се боря за създаване на изкуствен интелект, който да бъде инструмент, оръдие и да се използва от човека. Можем да имате робот, например в болниците, който ще позволи сестрите да не носят прекалено тежко оборудване, роботи, които да вадят химически продукти вместо човека. Искам да стане така, че всички тези машини да служат на обществото. Да ни дават нещо, а не да ни отнемат от нашата свобода“, категорична е Натали Невжан.

Докторът по право и философия Стоян Ставру откроява две страни на въпроса за правата на машините. Едната е психологическа и се корени в опита на производителите да създадат връзка между човека и робота, при която човек разпознава в машината „същество“, подобно на него, с неговата психика, желания и страхове. Юридическата страна пък е формална – тя няма цел да превърне робота в морален субект, а цели по-скоро разпределение на риска.

Регламентите изостават от иновациите, които се движат със съвсем различно темпо, а правото винаги е догонващо, признава Стоян Ставру, който би отворил вратата, затворена от Натали Невжан. Според него един от основните проблеми в технологиите се корени "в предвидимостта на рисковете, които те създават", особено когато имат социално значение. Ставру дава пример с робот, който се грижи за възрастни хора и посочва, че тук вече е на ход социалната функция на роботиката, а тя би изисквала регулация. 

"Правото определено трябва да приеме тази хвърлена му ръкавица от технологиите", убеден е Стоян Ставру. 

Какви са дилемите оттук нататък? Мненията чуйте в звуковите файлове.

Снимки в текста: ЕПА/БГНЕС
Новините на Програма „Хоризонт“ - вече и в Instagram. Акцентите от деня са в нашата Фейсбук страница. За да проследявате всичко най-важно, присъединете се към групите за новини – БНР Новини, БНР Култура, БНР Спорт, БНР Здраве, БНР Бизнес и финанси.
ВИЖТЕ ОЩЕ

Социално предприятие за рециклиране на текстил беше открито в Израел

По време на пандемията, когато не едно или две предприятия се затварят заради липса на платежоспособно търсене на продукцията им, в едни от най-престижните райони на Израел Квар Саба-Раанана бе прерязана лентата на немско-израелски център за рециклиране на текстил . Половин милион килограма текстилни отпадъци изхвърлят всяка година..

публикувано на 18.01.21 в 10:40
Станислав Владимиров

Станислав Владимиров: Двойните стандарти в БСП не вещаят нищо добро

Двойният аршин и двойните стандарти в БСП не вещаят нищо добро. Това заяви пред БНР кметът на Перник Станислав Владимиров. Той е на мнение, че към редица партийни членове и кметове, избрани с листата на БСП, се подхожда „с двоен аршин“. „Горчилката и неприятното лично отношение на председателя към определени партийни кадри, не само към мен,..

публикувано на 18.01.21 в 09:16
виенската зоологическа градина

WWF България започва най-новата си младежка програма Panda Labs

През 2020 г. WWF България създаде нов отдел „Образование, иновации и младежка ангажираност“. Фокусът на работата му е обучението и овластяването на младежи, които да станат застъпници за устойчиво развитие на страната ни, за опазване на дивата природа и за справяне с климатичните промени. Като част от тази дейност организацията открива 2021..

публикувано на 17.01.21 в 15:26

Пандемията изостри дисхармонията между бедни и богати

За първи път от 90-те години на миналия век насам  има вероятност тази година крайната бедност да се повиши , алармират от ООН.  „Социалните и икономическите щети от пандемията са огромни и продължават да нарастват. Няма ваксина, която може да коригира вече нанесените щети. Изправени сме пред най-тежката глобална рецесия от осем..

публикувано на 17.01.21 в 14:00
Наслада за сърцето и стомаха от шеф Анатоли Колев

Хляб за душата

Какъв е вкусът на детството за пицар, но не обикновен, а световен шампион, шеф-консултант и вицепрезидент на Българската асоциация на пицарите, член на Световната пица асоциация, почетен член на Руската пица федерация и член на Британския кулинарен институт – шеф-готвачът Анатоли Колев : „ Част от моето детство бяха и пиците, разбира..

публикувано на 16.01.21 в 20:00
Дезинфекция на шезлонг на плаж в Гърция, 16 май 2020 г.

На почивка в Гърция през лятото - без сертификат за ваксиниране

За почивка в Гърция това лято няма да се изисква сертификат за ваксиниране. Туристите ще се тестват на границата с бързи тестове преди влизане в страната. „Гърция няма да изисква сертификат за ваксинация, като задължително условие за влизане на туристи“, заяви пред медиите министърът на туризма Харис Теохарис. Желаещите да влязат в Гърция,..

публикувано на 15.01.21 в 12:01
Евелина Славкова

„Тренд“: Икономическите емигранти задържат младите хора в България

Всеки четвърти български гражданин е готов да емигрира, сочат данните от последното изследване на изследователски център „Тренд“ , направено по поръчка на „24 часа“. „ По-голяма част от хората, имащи роднини зад граница, са тези от селата и малките населени места – това е т.нар. икономическа имиграция“, обясни в предаването „Хоризонт до..

публикувано на 15.01.21 в 11:32