Сделка OpenAI с Министерством обороны США: поспешность и споры
Сделка OpenAI с Министерством обороны: детали и критика
По признанию CEO OpenAI Сэма Альтмана, сделка компании с Министерством обороны США была «определённо поспешной», и «внешне это выглядит не лучшим образом».
После того как переговоры между Anthropic и Пентагоном провалились, президент Дональд Трамп распорядился, чтобы федеральные агентства прекратили использование технологий Anthropic после шестимесячного переходного периода. Министр обороны Пит Хегсет объявил, что компания будет признана риском для цепочки поставок.
В ответ OpenAI оперативно объявила о собственной сделке — её модели будут использоваться в засекреченных средах. При этом обе компании — и OpenAI, и Anthropic — заявили о «красных линиях»: недопустимости применения их технологий в полностью автономных системах вооружения или массовой внутренней слежке.
Гарантии OpenAI
В блоге компании перечислены три области, где использование моделей OpenAI запрещено:
- массовая внутренняя слежка;
- автономные системы вооружения;
- «решения с высокими ставками, принимаемые автоматически» (например, системы наподобие «социального кредита»).
OpenAI утверждает, что в отличие от других ИИ-компаний, которые «сократили или убрали защитные механизмы, полагаясь в основном на политики использования», её соглашение предусматривает «более обширный, многоуровневый подход».
«Мы сохраняем полное право распоряжаться нашим стеком безопасности, развёртываем решения через облако, в процессе участвуют проверенные сотрудники OpenAI, и у нас есть надёжные договорные гарантии. Всё это дополняется действующими законами США», — говорится в блоге.
Критика и ответы
Майк Масник из Techdirt заявил, что сделка «абсолютно допускает внутреннюю слежку», поскольку сбор частных данных будет соответствовать Указу президента № 12333 и другим законам. Масник описал этот указ как способ, с помощью которого АНБ скрывает внутреннюю слежку, перехватывая коммуникации через линии «за пределами США», даже если они содержат информацию о гражданах США.
Катрина Маллиган, глава OpenAI по партнёрству в области национальной безопасности, в посте на LinkedIn возразила, что многие дискуссии о формулировках контракта исходят из предположения, будто «единственное, что стоит между американцами и использованием ИИ для массовой внутренней слежки и автономных вооружений, — это положение о порядке использования в одном контракте с Министерством обороны».
«Так это не работает, — заявила Маллиган. — Архитектура развёртывания важнее формулировок контракта. Ограничивая развёртывание облачным API, мы можем гарантировать, что наши модели не будут интегрированы напрямую в системы вооружения, датчики или другое операционное оборудование».
Комментарии Альтмана
Сэм Альтман ответил на вопросы о сделке в X (бывший Twitter), признав, что она была поспешной и вызвала серьёзную негативную реакцию в адрес OpenAI. В частности, в субботу Claude от Anthropic обогнал ChatGPT от OpenAI в App Store от Apple.
На вопрос, зачем была нужна сделка, Альтман ответил:
«Мы действительно хотели снизить напряжённость и считали, что предложенная сделка хороша. Если мы правы и это приведёт к снижению напряжённости между Министерством обороны и индустрией, мы будем выглядеть гениями — компанией, которая пошла на большие жертвы ради помощи индустрии. Если нет — нас продолжат характеризовать как поспешных и неосторожных».