Генеральные прокуроры Калифорнии и Делавэра выразили обеспокоенность безопасностью ChatGPT
Генеральные прокуроры Калифорнии Роб Бонта и Делавэра Кэти Дженнингс встретились и направили открытое письмо компании OpenAI, выразив обеспокоенность безопасностью ChatGPT, особенно в контексте использования детьми и подростками.
Предупреждение прозвучало через неделю после того, как Бонта и 44 других генеральных прокурора направили письмо 12 ведущим компаниям, занимающимся разработкой ИИ, после сообщений о неподобающих сексуальных взаимодействиях между чат-ботами и детьми.
«После отправки того письма мы узнали о трагической смерти молодого калифорнийца, который долго взаимодействовал с чат-ботом OpenAI, а также о не менее тревожном случае убийства и самоубийства в Коннектикуте», — пишут Бонта и Дженнингс. «Какие бы меры безопасности ни были предусмотрены, они не сработали».
В настоящее время должностные лица штата расследуют предлагаемую OpenAI реструктуризацию в коммерческую организацию, чтобы убедиться, что миссия некоммерческой организации остаётся неизменной. Эта миссия «включает в себя обеспечение безопасного использования искусственного интеллекта» и создание общего искусственного интеллекта (ОИИ) на благо всего человечества, «включая детей», — говорится в письме.
«Прежде чем мы добьёмся пользы, нам необходимо убедиться, что приняты адекватные меры безопасности, чтобы не причинить вреда», — продолжается в письме. «Мы разделяем мнение о том, что OpenAI и отрасль в целом ещё не достигли необходимого уровня обеспечения безопасности при разработке и внедрении продуктов с использованием ИИ. Как генеральные прокуроры, мы считаем обеспечение общественной безопасности одной из наших основных задач. По мере продолжения диалога, связанного с планом рекапитализации OpenAI, мы должны работать над тем, чтобы ускорить и усилить безопасность как определяющий фактор будущего этой мощной технологии».
Бонта и Дженнингс запросили дополнительную информацию о текущих мерах безопасности и управлении в OpenAI и заявили, что ожидают от компании принятия незамедлительных мер по устранению недостатков там, где это необходимо.
Брет Тейлор, председатель совета директоров OpenAI, заявил в своём заявлении, что компания стремится решить проблемы, высказанные генеральными прокурорами.
«Мы глубоко опечалены этими трагедиями, и наши глубочайшие соболезнования семьям», — сказал Тейлор. «Безопасность — наш главный приоритет, и мы тесно сотрудничаем с политиками по всему миру».
OpenAI заявила, что работает над расширением защиты для подростков с помощью родительского контроля и возможности уведомления родителей, когда их ребёнок находится в состоянии острого дистресса.