Character.AI запретила несовершеннолетним открытые чаты и запустила формат «Истории»
Character.AI ввела ограничения для несовершеннолетних
Платформа Character.AI приняла решение запретить несовершеннолетним пользоваться открытыми чатами. В качестве альтернативы сервис запустил новый формат под названием «Истории».
Причина таких мер — несколько судебных исков, в которых платформу обвиняли в негативном влиянии на психическое здоровье подростков. В частности, один из исков утверждал, что взаимодействие несовершеннолетних с ИИ-персонажами способствовало доведению подростка до самоубийства.
Как работают «Истории»
«Истории» представляют собой структурированное виртуальное приключение с участием ИИ-персонажей. В отличие от обычных чатов, где диалог может развиваться в любом направлении, новый формат предлагает более контролируемый опыт взаимодействия.
Процесс создания истории выглядит следующим образом:
- пользователь выбирает двух или трёх персонажей из каталога;
- задаёт жанр будущей истории;
- пишет описание сюжета самостоятельно или доверяет это ИИ-алгоритму.
Платформа генерирует управляемое повествование на основе выбранных параметров. При этом пользователю часто предоставляется возможность влиять на ход истории, делая процесс интерактивным, но более предсказуемым.
Дополнительные особенности формата
В «Историях» используются изображения, созданные искусственным интеллектом, — они помогают визуализировать сюжет. В будущем разработчики планируют добавить более разнообразные мультимодальные элементы, такие как:
- звуковое сопровождение;
- анимация;
- другие форматы контента.
Цель этих нововведений — сделать «Истории» ещё более увлекательными для подростков.
Другие меры платформы
С 25 ноября Character.AI закрыла чаты для подростков. Одновременно компания анонсировала скорый запуск функции для проверки возраста. Система будет автоматически направлять несовершеннолетних в более консервативные ИИ-чаты.
Разработчики позиционируют «Истории» как способ улучшить опыт взаимодействия с ИИ для несовершеннолетних, обеспечив больший контроль над содержанием диалогов.