Администрацията на президента Джо Байдън заяви в четвъртък, че водещи компании за изкуствен интелект са сред повече от 200 субекта, които се присъединяват към нов консорциум на САЩ в подкрепа на безопасното разработване и внедряване на генеративен ИИ (AI), предаде Ройтерс.
Министърът на търговията Джина Раймондо обяви създаването на Институт за безопасност на изкуствения интелект (AISIC), който включва водещи компании като OpenAI, Google, Anthropic и Microsoft, компанията-майка на Фейсбук - Meta Platforms, Apple, Amazon.com, Nvidia, Palantir, Intel, JPMorgan Chase и Bank of America.
"Правителството на САЩ има важна роля в определянето на стандартите и разработването на инструментите, от които се нуждаем, за да смекчим рисковете и да използваме огромния потенциал на изкуствения интелект", посочи министър Раймондо.
Консорциумът, който включва също така BP, Cisco Systems, IBM, Hewlett Packard, Northop Grumman, Mastercard, Qualcomm, Visa и големи академични институции и правителствени агенции, ще бъдат подчинени на Американския института за безопасност на ИИ (USAISI).
Групата е натоварена със задачата да работи по приоритетни действия, описани в изпълнителната заповед за изкуствен интелект на президента Байдън от октомври месец, "включително разработване на насоки за групиране на "червени екипи", оценки на способности, управление на риска, безопасност и сигурност и поставяне на водни знаци на синтетично съдържание".
През миналата година големите AI компании обещаха да обозначават съдържанието, генерирано от AI, за да направят технологията по-безопасна. Т.нар. "червени екипи" се използва от години в киберсигурността за идентифициране на нови рискове, като терминът се отнася до симулации в САЩ по време на Студената война, където врагът е наречен "червен екип".
Указът на Байдън нарежда на агенциите да определят стандарти за тези тестове и да се справят с свързаните химически, биологични, радиологични, ядрени и киберсигурност рискове.
През миналия декември Министерството на търговията заяви, че прави първата стъпка към написването на ключови стандарти и насоки за безопасно внедряване и тестване на ИИ.
Създаденият консорциум представлява най-голямото събиране на екипи за тестване и оценка и ще се фокусира върху създаването на основи за "нова наука за измерване на безопасността на ИИ", посочиха още от Министерството на търговията.
Генеративният ИИ - който може да създава текст, снимки и видеоклипове в отговор на отворени подкани - предизвика вълнение, както и страхове, че може да направи излишни някои работни места, да промени изборите и потенциално да надвие хората и да доведе до катастрофални ефекти.
Докато администрацията на Байдън търси предпазни мерки, усилията в Конгреса за приемане на законодателство, насочено към ИИ, са в застой въпреки множеството форуми на високо ниво и законодателни предложения, отбелязва Ройтерс.
