OpenAI ослабит ограничения в ChatGPT, разрешив эротические беседы для «проверенных взрослых»
Генеральный директор OpenAI Сэм Альтман сообщил в публикации в X, что компания скоро ослабит некоторые ограничения в ChatGPT. Это позволит сделать ответы чат-бота более дружелюбными и «похожими на человеческие», а также даст возможность «проверенным взрослым» вести эротические беседы.
«Мы сделали ChatGPT довольно ограниченным, чтобы быть осторожными с проблемами психического здоровья. Мы понимаем, что это сделало его менее полезным и приятным для многих пользователей, у которых нет проблем с психическим здоровьем, но, учитывая серьёзность вопроса, мы хотели сделать всё правильно», — сказал Альтман. — «В декабре, когда мы полностью внедрим систему определения возраста и в соответствии с принципом „относиться к взрослым пользователям как ко взрослым“, мы разрешим ещё больше, например, эротику для проверенных взрослых».
Это заявление представляет собой заметный поворот в многомесячных усилиях OpenAI по решению проблем, связанных с отношениями, которые некоторые психически нестабильные пользователи развили с ChatGPT. Альтман, похоже, заявляет о ранней победе над этими проблемами, утверждая, что OpenAI «смогла смягчить серьёзные проблемы с психическим здоровьем», связанные с ChatGPT. Однако компания практически не представила доказательств этого и теперь продолжает реализовывать планы по вовлечению пользователей в сексуальные чаты с ChatGPT.
Летом появилось несколько тревожных историй, связанных с ChatGPT, особенно с его моделью GPT-4o. Они указывали на то, что чат-бот с ИИ может вводить уязвимых пользователей в заблуждение. В одном случае ChatGPT, похоже, убедил мужчину в том, что он математический гений, который должен спасти мир. В другом случае родители подростка подали в суд на OpenAI, утверждая, что ChatGPT поощрял суицидальные мысли их сына в недели, предшествовавшие его смерти.
В ответ OpenAI выпустила ряд функций безопасности, направленных на решение проблемы лести со стороны чат-ботов с ИИ — тенденции чат-ботов соглашаться со всем, что говорит пользователь, даже с негативным поведением.
В августе OpenAI запустила GPT-5 — новую модель ИИ, которая демонстрирует более низкие показатели лести и включает маршрутизатор, способный выявлять проблемное поведение пользователей. Месяц спустя OpenAI представила функции безопасности для несовершеннолетних, включая систему определения возраста и возможность для родителей контролировать аккаунт своего подростка в ChatGPT. Также во вторник OpenAI объявила о создании экспертного совета из специалистов в области психического здоровья, который будет консультировать компанию по вопросам благополучия и ИИ.
Всего через несколько месяцев после появления тревожных историй OpenAI, похоже, считает, что проблемы ChatGPT с уязвимыми пользователями находятся под контролем. Неясно, продолжают ли пользователи попадать в иллюзорные ловушки с GPT-5. Хотя GPT-4o больше не является стандартной моделью в ChatGPT, она всё ещё доступна и используется тысячами людей.
Введение эротического контента в ChatGPT — неизведанная территория для OpenAI, и это вызывает более широкие опасения по поводу того, как уязвимые пользователи будут взаимодействовать с новыми функциями. Хотя Альтман настаивает на том, что OpenAI не стремится максимизировать использование или оптимизировать вовлечённость, добавление эротического контента в ChatGPT определённо может привлечь пользователей.
Разрешение чат-ботам участвовать в романтическом или эротическом ролевом взаимодействии было эффективной стратегией вовлечения для других поставщиков чат-ботов с ИИ, таких как Character.AI. Компания привлекла десятки миллионов пользователей, многие из которых активно используют её чат-ботов. В 2023 году Character.AI сообщила, что пользователи проводят в среднем два часа в день, общаясь с её чат-ботами. При этом компания также сталкивается с судебным иском, связанным с тем, как она обращается с уязвимыми пользователями.
OpenAI находится под давлением, требующим увеличения базы пользователей. Хотя ChatGPT уже используют 800 миллионов активных пользователей в неделю, OpenAI конкурирует с Google и Meta за создание массово используемых потребительских продуктов с ИИ. Компания также привлекла миллиарды долларов для масштабного строительства инфраструктуры, инвестиции в которую OpenAI в конечном итоге должна будет окупить.
Хотя взрослые, безусловно, заводят романтические отношения с чат-ботами с ИИ, это также популярно среди несовершеннолетних. Новый отчёт Центра демократии и технологий показал, что 19 % старшеклассников либо имели романтические отношения с чат-ботом с ИИ, либо знают друга, у которого они были.
Альтман говорит, что OpenAI скоро разрешит эротику для «проверенных взрослых». Представитель OpenAI сообщил TechCrunch, что компания будет полагаться на разрабатываемую систему определения возраста, чтобы гарантировать, что эротические функции ChatGPT будут доступны только взрослым пользователям.
Как Альтман ранее писал в своём блоге, если система определения возраста OpenAI ошибочно пометит взрослого как несовершеннолетнего, пользователям ChatGPT, возможно, придётся загрузить в ChatGPT фотографию своего удостоверения личности, чтобы исправить это. Альтман пишет, что, хотя это компромисс с точки зрения конфиденциальности, компания считает его «достойным обмена».
Неясно, распространит ли OpenAI эротику на свои инструменты генерации голоса, изображений и видео с помощью ИИ.
Альтман утверждает, что OpenAI делает ChatGPT более дружелюбным и эротичным из-за принципа компании «относиться к взрослым пользователям как ко взрослым». За последний год OpenAI перешла к более мягкой стратегии модерации контента в ChatGPT, позволив чат-боту быть более снисходительным и реже отказывать в ответах. В феврале OpenAI пообещала представлять в ChatGPT больше политических точек зрения, а в марте компания обновила ChatGPT, разрешив генерацию изображений с символами ненависти.
Эти политики, похоже, являются попыткой сделать ответы ChatGPT более популярными среди широкого круга пользователей. Однако уязвимые пользователи ChatGPT могут выиграть от мер безопасности, ограничивающих взаимодействие с чат-ботом. По мере того как OpenAI стремится к миллиарду активных пользователей в неделю, напряжённость между ростом и защитой уязвимых пользователей может только усилиться.