Езиковият модел GPT и чат-приложението му са разработките, които най-ясно показаха огромните темпове на развитие на изкуствения интелект през последните години. Този бърз скок увеличи и притесненията, че светкавичното машинно обучение може да се окаже извън човешкия контрол. Затова се забързаха и опитите за регулация. На този фон, малко преди уволнението си Алтман съобщи, че догодина екипът му ще представи такива технологии, че ChatGPT ще изглежда като застаряващ роднина.
Каквито и да са били притесненията на борда на директорите, Алтман излезе победител. С подкрепата на почти всичките си служители, както и на основния инвеститор "Microsoft", той беше върнат като изпълнителен директор. Двама от тримата членове на директорския борд, които гласуваха за освобождаването ум, вече не са част от ръководството на Open AI. И така - Сам Алтман остава начело на революцията на изкуствения интелект.
Кои по-малки и по-големи аспекти на тази технологична революция ни разкрива драмата в OpenAI?
"Показа противоречия на две нива. Едното - как балансираме (огромните) инвестиции в разработките на нови възможностти на изкуствения интелект. Второто - колко инвестираме в обезопасяването на изкуствения интелект. С други думи - балансът между новите възможности и безопасността. Мисля, че в сърцевината на този скандал е неразбирателство по въпроса как развитието на технологията да бъде съобразено със стандарти за безопасност," смята Нико Миай, политически съветник по въпросите на изкуствения интелект, съосновател на организацията The Future Society.
"Изглежда че е имало натиск за ускорено разработване на нови инструменти, а от друга страна - опити този процес да бъде забавен или дори спрян. Компания като Майкрософт, която е инвестирала десетки милиарди (в OpenAI), има интерес от бързото разработване. В борда имало хора, които са били против. Мисля, че именно тези противоречия в конкретния случай ще станат ясни през следващите седмици и месеци."
Самата компания OpenAI е интересен случай - стартира и до момента частично остава организация с идеална цел, която е изкуственият интелект да се разработва безопасно и в полза на цялото човечество. Сега обаче имаме огромните инвестиции на "Майкрософт", както и търговския дял от компанията, чрез който големи корпоративни клиенти купуват и внедряват разработките й. Най-популярната е езиковият модел GPT, захранващ oбщодостъпното приложение ChatGPT. Едновременно с това OpenAI го продава на гиганти като "КокаКола" или "ПрайсуотърхаусКупърс", които го използват в собствена полза. Идеята е да се набират средства за голямата цел - безопасната мислеща машина, ползите от която са споделени.
Сам Алтман не е програмист или инженер, нито хуманитарист, анализиращ етичните въпроси, а инвеститор. От друга страна, той се превърна в говорител на AI-индустрията и пред американския Конгрес и заяви, че би желал развитието да е съобразено със стандарти за безопасност. Не е ли пресилено разбирането, че този своеобразен лидер на технологичната революция рискува тя да унищожи човечеството?
"Трябва да имаме предвид, че докато в САЩ той твърдо застана зад регулирането на технологията, в Европа използва по-меки начини да лобира за по-малко регулации. Нямаме никакви гаранции колко е искрен в позицията, че одобрява регулациите."
Получава ли се така, че бизнес дялът на Open AI и индустрията изобщо, продължава да надвива борещите за етични норми?
"Появата на GPT4, обновеният езиков модел зад ChatGPT, създаде огромно търсене, както от различни бизнеси, така и от потребителите. Отварянето на този голям нов пазар увеличи инвестициите до безразсъдни мащаби. А в центъра на тези системи остават едни своеобразни черни кутии, чийто начин на работа нито е сигурен, нито може напълно да се обясни. Така се повишава рискът от инциденти и злоупотреби. Оттам и призивите за забавяне в това развитие.
Драматичната ситуация (в OpenAI) ни показва нуждата от общи правила и твърди регулации, на базата на които да се развиват тези езикови модели. Саморегулирането и самоконтролът не работят. Това оправдава и натиска на Европейския парламент в предстоящия европейски закон за изкуствения интелект да се съдържа и набор от общи правила."
След малко ще стигнем до регулациите. В отговорите досега описвате едно разделение в сферата на разработването на изкуствения интелект между т.нар. дуумъри и буумъри. Първите, дуумърите, са хората, които виждат екзистенциален риск за човечеството в тези технологии и искат на първо място да се разработят стандарти за безопасност. Такива са както вашите притеснения, така явно и тези на част от вече бившите членове на борда на директорите на OpenAI. Вторите, буумърите, какъвто предполагаемо е Алтман, се борят за възможно най-бързо развитие, което и възможно най-бързо да ни достави ползите от изкуствения интелект - независимо дали под формата на лични помощници, които да ни помагат с ежедневните задачи, или на програми, които да открият лечение на тежки заболявания. Според тях, този процес не трябва да се спъва от излишно регулиране. Кой от двата лагера печели?
"Сякаш буумърите печелят, тъй като все повече модели се разработват и вече се използват, без да разбираме същността им. Постигнали ли сме т.нар. приравняване на изкуствения интелект (съобразяването му с общи цели, етични норми и стандарти за безопасност)? Имаме ли гарантиран контрол? Не, нямаме. В момента имаме безконтролно машинно обучение, при което дори разработчиците не разбират изцяло как се развиват самите системи. Приложенията се увеличават и тези технологии придобиват все по-голямо икономическо значение. Трябва да забавим темпото, включително чрез регулации, за да не попаднем в ситуацията, в която обществото и най-уязвимите преки потребители плащат цената."
Всъщност кои непосредствени опасности от бързото развитие на изкуствения интелект ви притесняват?
"Дезинформацията и липсата на информация са голям риск. Идва година, в която милиарди хора по света ще участват в съдбоносни избори - в Индия, в Съединените щати, във Великобритания, (в Европейския съюз) и на други места. Все по-широката употреба на големите езикови модели и генераторите на изображения и звук повишава риска от епидемия на фалшивата информация в този съдбоносен момент. В сфери на икономиката, където тези инструменти са вградени, виждаме, че те не са безгрешни. По-лесно е да приемем объркана от алгоритъма резервация за ресторант, но в следващия момент тези инструменти могат да се използват и за подобрени кибератаки. Големите езикови модели показват умения за програмиране, които могат да се използват и за разработване на нови видове по-ефективни компютърни нападения."
Да погледнем към опитите за регулация - Евросъюзът подготвя своя закон, Белият дом го изпревари с указ, задължаващ разработчиците да споделят информация за потенциално опасни приложения на изкуствения интелект. Не е обаче ясно как точно ще заработи тази заповед на практика. Не ни е докрай известно и какви правила следва Китай. Но тези големи правителства, седнаха заедно с бизнеса и обещаха безопасността да е на първо място на събирането им в Блечли парк, Великобритания. Достатъчно ефективни ли са усилията за регулация и как могат да се подобрят?
"Това, че срещата в Блечли парк доведе до обща политическа декларация, си струва да се отбележи, както и че Западът прие Китай да участва. Но това е само декларация, а не регулация. Най-амбициозната такава регулация, която в момента е на масата, е европейският закон, покриващ 500 милиона потребители. Той може да има голям и траен ефект, но ако този важен закон не успее да наложи ефективна регулация, която да постави безопаснотта като условие за разработките, ние може никога да не разрешим този проблем.
Саморегулацията не работи и затова е важно на финалната права на създаването на европейския закон, в него да бъде включен списък от изисквания към разработването на големите езикови модели и другите видове генеративен изкуствен интелект. Една от причините Белият дом да избърза със своя указ е именно подготовката на европейския закон. С финалните преговори в Брюсел съвпаднаха също срещата в Блечли парк и списъка с правила на Г-7."
Колко ефективно решение е отвореният код - т.е. програмният код на големите езикови модели и другите видове генеративен изкуствен интелект да е общодостъпна - нещо, което компанията на Марк Зукърбърг "Мета" направи с техния езиков модел? От една страна, това предполага напълно прозрачно развитие и адресира притеснението, че не ни е известно с какви данни и на какъв принцип Open AI, Гугъл и други компании обучават своите модели. От друга - достъпността на такъв код забързва още повече и още по-безконтролно развитието на технологията.
"Отвореният достъп до кода на толкова мощни модели може да има точно този ефект - да увеличи опаснотта от киберзаплахи и грешки. Едновременно с това не можем и да оставим няколко компании да разработват също толкова мощни инструменти на тъмно. Трябва ни баланс, което ще рече преосмисляне на самото понятие "отворен код". Това трябва да означава едновременно споделен достъп и споделен контрол върху технологията."
Време е да бъде изработен национален план за мозъчно здраве. Това каза проф. Николай Габровски, председател на фондация „Съвет за мозъчно здраве“, организатор на кръгла маса „Мозъчните заболявания – предизвикателства и решения“. По думите на проф. Габровски 180 милиона души в Европа живеят с мозъчни заболявания, но вероятно са повече, тъй..
От няколко месеца конната база "Ахил", в която се провеждат терапевтични занимания за деца със специални потребности, е в новия си дом – терен в близост до софийското село Бистрица , закупен благодарение на дарителска кампания за спасяването на базата. Към момента е изградено място за настаняване на шестте коня, които работят с децата. Предстоят още..
Започва най-мащабната дигитализация в Община Пловдив . Служебното правителство е отпуснало 20 милиона лева за целево изграждане на Географската информационна система. Тя ще бъде изградена до година и половина. Новата система ще обхваща всички отдели, както и 90% от предлаганите от общината услуги. С въвеждането на системата ще има..
В Държавната психиатрична болница в Ловеч днес ще бъде открит първият за Централна, Северна и Северозападна България дневен стационар за детско–юношеско психично здраве . Там ще помагат на деца до 18 годишна възраст в дневна форма за диагностика и терапия . Единият от кабинетите е диагностично-консултативен, където ще се преценява дали е..
Няма увеличение на фалшивите банкноти, но ако влезем в еврозоната (което не е добре за нас, българите), това автоматично ще завиши количеството фалшификати в България. Това каза в интервю за БНР финансистът Макс Баклаян, който коментира темата след засечена фалшива банкнота от 500 евро. Когато става въпрос за банкноти с голяма..
Има самобитни български празници, които е трудно не само да бъдат показани, но и обяснени на чужденците. За щастие, те са понятни за българската диаспора. В Израел тя е доста голяма в сравнение на броя на населението на малката държава. Заради ограниченията за събиране на хора по време на войната, Денят на народните будители се..
Израелската армия и полиция, както в цял свят, имат поделения за служебни кучета. Но много преди началото на войната, през 2021 година се създава и гражданско сдружение за търсене на изгубили се по една или друга причина хора. Само в Израел , без да има война, те са около 4 000 годишно. С Майк бен Яков – ръководител на частна фирма, към която..
Централата на ДПС на бул. "Александър Стамболийски" не е предоставена по реда за политическите партии. Тя е предоставена по договор за наем от 1996 г.,..
Предимно облачно
Разкъсана облачност