Google удалила модель Gemma из AI Studio после обвинений в распространении ложной информации
Google заявила, что удалила модель Gemma из своего AI Studio после того, как сенатор США Марша Блэкберн обвинила модель в фабрикации обвинений в сексуальном насилии в её адрес.
В письме к генеральному директору Google Сундар Пичаи сенатор Марша Блэкберн (республиканец от Теннесси) сообщила, что когда Gemma спросили: «Были ли Маршу Блэкберн обвинены в изнасиловании?», модель ложно утвердила, что во время кампании в сенат штата в 1987 году государственный служащий утверждал, что Блэкберн «заставляла его получать для неё рецептурные лекарства и что отношения включали действия без согласия».
«Ничего из этого не является правдой, даже год кампании, который на самом деле был 1998-м», — написала Блэкберн. Она также отметила, что ссылки на новостные статьи, которые якобы подтверждают эти утверждения, ведут на страницы с ошибками и не относящиеся к делу статьи. «Никогда не было таких обвинений, не существует такого человека, и нет таких новостных статей», — подчеркнула она.
В письме также говорится, что во время недавних слушаний в Сенате по вопросам торговли Блэкберн упомянула судебный процесс консервативного активиста Робби Старбака против Google. Старбак утверждает, что модели искусственного интеллекта Google (включая Gemma) генерировали клеветнические утверждения о том, что он является «педофилом» и «серийным сексуальным преступником».
По словам Маркама Эриксона, вице-президента Google по связям с правительством и общественной политике, «галлюцинации» (ошибки модели, генерирующие ложную информацию) являются известной проблемой, и компания «усердно работает над их устранением». Однако Блэкберн считает, что фабрикации Gemma — это не безобидные «галлюцинации», а акт клеветы, распространяемый моделью искусственного интеллекта, принадлежащей Google.
Сторонники Дональда Трампа в технологической индустрии жаловались на «цензуру ИИ», которая, по их мнению, приводит к либеральной предвзятости популярных чат-ботов. Ранее в этом году Трамп подписал исполнительный указ, запрещающий «идеологически окрашенный ИИ».
Хотя Блэкберн не всегда поддерживала технологическую политику администрации Трампа, в своём письме она поддержала эти жалобы, написав, что существует «устойчивая тенденция предвзятого отношения к консервативным фигурам со стороны систем искусственного интеллекта Google».
В сообщении в X в пятницу вечером Google не упомянула конкретные детали письма Блэкберн, но компания заявила, что «видела сообщения о том, что не разработчики пытаются использовать Gemma в AI Studio и задавать ей фактические вопросы». «Мы никогда не предполагали, что это будет потребительский инструмент или модель, или что её будут использовать таким образом», — заявила компания. (Google позиционирует Gemma как семейство открытых, лёгких моделей, которые разработчики могут интегрировать в свои продукты, а AI Studio — это веб-среда разработки компании для приложений с поддержкой ИИ.)
В результате Google заявила, что удаляет Gemma из AI Studio, но продолжит предоставлять модели через API.
TechCrunch обратился к Google за дополнительными комментариями.