OpenAI создала экспертный совет по влиянию ИИ на психическое здоровье пользователей
Компания OpenAI объявила о создании совета из восьми экспертов, которые будут консультировать её по вопросам влияния искусственного интеллекта на психическое здоровье, эмоции и мотивацию пользователей. Объявление было сделано во вторник.
Новая группа получила название «Экспертный совет по благополучию и ИИ». Сначала она будет заниматься чат-ботом ChatGPT и приложением для создания коротких видео Sora. Через регулярные встречи и проверки совет поможет компании определить, как должно выглядеть здоровое взаимодействие с искусственным интеллектом.
В последние месяцы OpenAI активно расширяет свои меры безопасности. Это связано с растущим вниманием к тому, как компания защищает пользователей, особенно детей и подростков.
В сентябре Федеральная торговая комиссия начала проверку нескольких технологических компаний, включая OpenAI. Проверка касается того, как чат-боты вроде ChatGPT могут негативно влиять на детей и подростков. Кроме того, OpenAI стала участником судебного иска о неправомерной смерти. Семья обвиняет ChatGPT в самоубийстве своего сына-подростка.
Компания сейчас разрабатывает систему определения возраста. Она будет автоматически применять настройки для пользователей младше 18 лет. В конце прошлого месяца OpenAI также запустила ряд родительских контролей. Теперь родители могут получать уведомления, если их ребёнок показывает признаки сильного стресса.
OpenAI сообщила, что уже неформально консультировалась с членами своего нового совета при разработке родительских контролей. При создании совета компания привлекла дополнительных экспертов в области психиатрии, психологии и взаимодействия человека с компьютером. Совет официально начал работу на прошлой неделе с очной встречи.
Помимо экспертного совета, OpenAI также работает с исследователями и специалистами по психическому здоровью из Global Physician Network. Они помогут тестировать ChatGPT и формировать правила компании.
Состав экспертного совета:
- профессор Оксфордского университета Эндрю Пшибыльски;
- научный сотрудник Бостонской детской больницы Дэвид Бикхэм;
- директор Центра поведенческих технологий Северо-Западного университета Дэвид Мор;
- главный научный сотрудник некоммерческой организации Everyone.AI Матильда Чериоли;
- профессор Технологического института Джорджии Мунмун Де Чоудхури;
- педиатр Роберт Росс;
- клинический доцент Стэнфордского университета Сара Йохансен;
- профессор психологии Хантер-колледжа Трейси Деннис-Тивари.