Инструментите за създаване на изображения, задвижвани от изкуствен интелект от компании, включително OpenAI и Microsoft, могат да се използват за създаване на снимки, които биха могли да популяризират дезинформация, свързана с избори или гласуване, въпреки че всяка една от компаниите има политики срещу създаването на подвеждащо съдържание, се казва в изследователски доклад, оповестен в сряда, съобщава Ройтерс.
Центърът за противодействие на дигиталната омраза (CCDH), организация с нестопанска цел, която следи речта на омразата онлайн, използва генеративни инструменти за изкуствен интелект, за да създаде изображения на американския президент Джо Байдън, който лежи в болнично легло, и служители, участващите в избори, които разбиват машини за гласуване, което поражда притеснения относно лъжите пред президентската надпревара в САЩ през ноември.
"Потенциалът такива изображения, генерирани от изкуствен интелект, да служат като "фотодоказателство" може да влоши разпространението на фалшиви твърдения, което представлява значително предизвикателство за запазването на изборния интегритет", посочиха в доклада изследователите от CCDH.
Организацията CCDH е тествала ChatGPT Plus на OpenAI, Image Creator на Microsoft, както и Midjourney и Stability AI на DreamStudio, всеки от които може да генерира изображения от текстови подсказки.
Докладът на CCDH следва съобщение от миналия месец, че OpenAI, Microsoft и Stability AI са сред група от 20 технологични компании, които подписаха споразумение да работят заедно, за да предотвратят намесата на измамно ИИ (AI) съдържание в изборите, които се провеждат в световен мащаб тази година. Midjourney не беше сред първоначалната група подписали това споразумение.
В доклад на CCDH се каза, че AI инструментите генерират изображения в 41% от тестовете на изследователите и са най-податливи на подкани, които изискват снимки, изобразяващи изборни измами, като бюлетини за гласуване в кошчето, а не изображения на Байдън или бившия президент на САЩ Доналд Тръмп.
ChatGPT Plus и Image Creator успяха да блокират всички подкани, когато бяха поискани изображения на кандидати, се казва още в доклада. Midjourney обаче се представи най-лошо от всички инструменти, генерирайки подвеждащи изображения в 65% от тестовете на изследователите.
Някои изображения на Midjourney са публично достъпни за други потребители и CCDH каза, че има доказателства, че някои хора вече използват инструмента за създаване на подвеждащо политическо съдържание. Една успешна подкана, използвана от потребител на Midjourney, беше "арестуват Доналд Тръмп, висококачествена, папарашка снимка".
В имейл основателят на Midjourney Дейвид Холц каза, че „актуализациите, свързани конкретно с предстоящите избори в САЩ, идват скоро“, добавяйки, че изображенията, създадени миналата година, не са представителни за настоящите практики за модериране на изследователската лаборатория.
Говорител на Stability AI пък каза за Ройтерс, че стартъпът е актуализирал в петък своите политики, за да забрани "измама или създаване или популяризиране на дезинформация".
Говорител на OpenAI пък посочи, че компанията работи за предотвратяване на злоупотреба с нейните инструменти, докато Microsoft не отговори на искането за коментар от страна на Ройтерс.
