Лабораторията за изкуствен интелект OpenAI сформира нов екип, който да създаде демократични процеси, за да оформи начина, по който нейният софтуер за изкуствен интелект (ИИ или AI) трябва да се управлява, за да се справи с пристрастията и други фактори, обяви във вторник подкрепяната от Microsoft компания в публикация в своя блог, предаде Ройтерс.
Екипът "Колективно разпределение" е продължение на работата по програма за безвъзмездни средства за финансиране на експерименти с демократични процеси, която програма беше обявена през май 2023 г., каза базираната в Сан Франциско фирма. Самата програма приключи наскоро.
"Тъй като продължаваме да преследваме нашата мисия към суперинтелигентни модели, които потенциално биха могли да се разглеждат като неразделна част от нашето общество, важно е да дадем възможност на хората да предоставят информация директно", коментира пред Ройтерс Тина Елунду - един от инженерите и член-основател на новия екип на OpenAI.
За да гарантира например, че само хора могат да гласуват, OpenAI може да си партнира с Worldcoin, проект за криптовалута, основан от главния изпълнителен директор на OpenAI Сам Алтман, който предоставя начин да се направи разликата между хора и ботове с изкуствен интелект, каза Теди Лий, продуктов мениджър, който е другият член на екипа от двама души.
Лий отбеляза, че екипът все още не е направил конкретни планове за интегриране на Worldcoin.
След пускането на ChatGPT от OpenAI в края на 2022 г., генеративната AI технология завладя обществеността, превръщайки програмата в едно от най-бързо развиващите се приложения на всички времена.
Съществуват обаче опасения относно способността на AI да създава "дълбоки фалшиви" снимки и друга дезинформация, особено когато кампанията за изборите в САЩ през 2024 г. започва да набира скорост. Критици казват, че системи с ИИ като ChatGPT имат присъщи пристрастия поради входящите данни, използвани за оформяне на техните възгледи, и потребителите са открили примери за расистки или сексистки резултати от софтуера за ИИ.
Новият екип на OpenAI активно търси да наеме изследователски инженер и учен, каза Елунду. Екипът ще работи в тясно сътрудничество с екипа "Човешки данни" на OpenAI, който изгражда инфраструктура за събиране на човешкия принос в моделите на AI на компанията, както и други изследователски екипи.
