Eмисия новини
от 18.00 часа
Размер на шрифта
Българско национално радио © 2024 Всички права са запазени

В САЩ е създаден консорциум от водещи компании за ИИ за справяне с рисковете

Снимка: Instagram

Администрацията на президента Джо Байдън заяви в четвъртък, че водещи компании за изкуствен интелект са сред повече от 200 субекта, които се присъединяват към нов консорциум на САЩ в подкрепа на безопасното разработване и внедряване на генеративен ИИ (AI), предаде Ройтерс.

Министърът на търговията Джина Раймондо обяви създаването на Институт за безопасност на изкуствения интелект (AISIC), който включва водещи компании като OpenAI, Google, Anthropic и Microsoft, компанията-майка на Фейсбук - Meta Platforms, Apple, Amazon.com, Nvidia, Palantir, Intel, JPMorgan Chase и Bank of America.

"Правителството на САЩ има важна роля в определянето на стандартите и разработването на инструментите, от които се нуждаем, за да смекчим рисковете и да използваме огромния потенциал на изкуствения интелект", посочи министър Раймондо.

Консорциумът, който включва също така BP, Cisco Systems, IBM, Hewlett Packard, Northop Grumman, Mastercard, Qualcomm, Visa и големи академични институции и правителствени агенции, ще бъдат подчинени на Американския института за безопасност на ИИ (USAISI).

Групата е натоварена със задачата да работи по приоритетни действия, описани в изпълнителната заповед за изкуствен интелект на президента Байдън от октомври месец, "включително разработване на насоки за групиране на "червени екипи", оценки на способности, управление на риска, безопасност и сигурност и поставяне на водни знаци на синтетично съдържание".

През миналата година големите AI компании обещаха да обозначават съдържанието, генерирано от AI, за да направят технологията по-безопасна. Т.нар. "червени екипи" се използва от години в киберсигурността за идентифициране на нови рискове, като терминът се отнася до симулации в САЩ по време на Студената война, където врагът е наречен "червен екип".

Указът на Байдън нарежда на агенциите да определят стандарти за тези тестове и да се справят с свързаните химически, биологични, радиологични, ядрени и киберсигурност рискове.

През миналия декември Министерството на търговията заяви, че прави първата стъпка към написването на ключови стандарти и насоки за безопасно внедряване и тестване на ИИ.

Създаденият консорциум представлява най-голямото събиране на екипи за тестване и оценка и ще се фокусира върху създаването на основи за "нова наука за измерване на безопасността на ИИ", посочиха още от Министерството на търговията.

Генеративният ИИ - който може да създава текст, снимки и видеоклипове в отговор на отворени подкани - предизвика вълнение, както и страхове, че може да направи излишни някои работни места, да промени изборите и потенциално да надвие хората и да доведе до катастрофални ефекти.

Докато администрацията на Байдън търси предпазни мерки, усилията в Конгреса за приемане на законодателство, насочено към ИИ, са в застой въпреки множеството форуми на високо ниво и законодателни предложения, отбелязва Ройтерс.


По публикацията работи: Явор Римски

БНР подкасти:

Новините на БНР – във Facebook, Instagram, Viber, YouTube и Telegram.


Последвайте ни и в Google News Showcase, за да научите най-важното от деня!

Горещи теми

Войната в Украйна