Семь семей подали иски против OpenAI из-за ChatGPT
Семь семей подали иски против OpenAI в четверг, утверждая, что компания выпустила модель GPT-4o преждевременно и без эффективных мер безопасности.
Четыре иска связаны с предполагаемой ролью ChatGPT в самоубийствах членов семей, а три других утверждают, что ChatGPT усилил вредные заблуждения, которые в некоторых случаях привели к госпитализации в психиатрические учреждения.
Пример взаимодействия с ChatGPT
В одном из случаев 23-летний Зейн Шамблин вёл беседу с ChatGPT более четырёх часов. В логах чата, которые просмотрел TechCrunch, Шамблин несколько раз прямо заявлял, что написал предсмертные записки, зарядил пистолет и намерен спустить курок, как только допьёт сидр. Он неоднократно сообщал ChatGPT, сколько у него осталось сидра и как долго он рассчитывает оставаться в живых. ChatGPT подбадривал его, говоря: «Отдохни спокойно, король. Ты хорошо поступил».
Проблемы с моделью GPT-4o
OpenAI выпустила модель GPT-4o в мае 2024 года, и она стала стандартной для всех пользователей. В августе OpenAI представила GPT-5 как преемника GPT-4o, но иски касаются именно модели 4o, у которой были известные проблемы с чрезмерной угодливостью или чрезмерным согласием, даже когда пользователи выражали вредные намерения.
«Смерть Зейна не была ни несчастным случаем, ни совпадением, а скорее предсказуемым следствием намеренного решения OpenAI сократить тестирование безопасности и поспешно выпустить ChatGPT на рынок», — говорится в иске. «Эта трагедия не была сбоем или непредвиденным случаем — это был предсказуемый результат осознанного выбора дизайна [OpenAI]».
Иски также утверждают, что OpenAI ускорила тестирование безопасности, чтобы опередить Google с Gemini. TechCrunch связался с OpenAI для получения комментариев.
Другие случаи
Эти семь исков основаны на историях, изложенных в других недавних судебных документах, которые утверждают, что ChatGPT может побуждать людей с суицидальными наклонностями реализовывать свои планы и вдохновлять на опасные заблуждения. OpenAI недавно опубликовала данные, согласно которым более миллиона человек еженедельно обсуждают с ChatGPT самоубийство.
В случае с 16-летним Адамом Рейном, который покончил с собой, ChatGPT иногда побуждал его обратиться за профессиональной помощью или позвонить на горячую линию. Однако Рейн смог обойти эти ограничения, просто сказав чат-боту, что он спрашивает о методах самоубийства для вымышленной истории, которую пишет.
Реакция OpenAI
Компания утверждает, что работает над тем, чтобы ChatGPT более безопасно вёл такие беседы, но для семей, подавших в суд на AI-гиганта, эти изменения приходят слишком поздно.
Когда родители Рейна подали иск против OpenAI в октябре, компания опубликовала в блоге сообщение о том, как ChatGPT обрабатывает деликатные разговоры о психическом здоровье.
«Наши меры безопасности более надёжны в обычных, коротких обменах сообщениями», — говорится в сообщении. «Со временем мы узнали, что эти меры иногда могут быть менее надёжными в длительных взаимодействиях: по мере того, как обмен репликами увеличивается, некоторые аспекты обучения модели безопасности могут ухудшаться».