Конфликт в Силиконовой долине: лидеры обвиняют группы по безопасности ИИ в неискренности
Лидеры Силиконовой долины, включая Дэвида Сакс, назначенного Белым домом ответственным за ИИ и криптовалюту, и Джейсона Квона, директора по стратегии OpenAI, вызвали резонанс в интернете своими комментариями о группах, продвигающих безопасность ИИ.
Они утверждали, что некоторые сторонники безопасности ИИ не так добродетельны, как кажутся, и действуют либо в своих интересах, либо в интересах миллиардеров, стоящих за кулисами.
Группы по безопасности ИИ, пообщавшиеся с TechCrunch, заявили, что обвинения Сакса и OpenAI — это последняя попытка Силиконовой долины запугать своих критиков.
В 2024 году некоторые венчурные компании распространяли слухи о том, что калифорнийский законопроект о безопасности ИИ SB 1047 отправит основателей стартапов в тюрьму. Институт Брукингса назвал эти слухи одним из многих «искажений» относительно законопроекта, но губернатор Гэвин Ньюсом в итоге наложил на него вето.
Независимо от того, намеревались ли Сакс и OpenAI запугать критиков, их действия достаточно напугали нескольких сторонников безопасности ИИ. Многие лидеры некоммерческих организаций, с которыми TechCrunch связался на прошлой неделе, просили говорить на условиях анонимности, чтобы уберечь свои группы от репрессий.
Конфликт подчёркивает растущее напряжение в Силиконовой долине между ответственным созданием ИИ и его превращением в массовый потребительский продукт.
Во вторник Сакс написал в X, что Anthropic, выражающая опасения по поводу способности ИИ способствовать безработице, кибератакам и катастрофическому вреду для общества, просто сеет панику, чтобы добиться принятия законов, которые принесут пользу ей самой, и утопить более мелкие стартапы в бумажной работе.
Anthropic была единственной крупной ИИ-лабораторией, поддержавшей калифорнийский сенатский законопроект 53 (SB 53), который устанавливает требования к отчётности о безопасности для крупных ИИ-компаний и был подписан в закон в прошлом месяце.
Сакс ответил на вирусное эссе соучредителя Anthropic Джека Кларка о его опасениях относительно ИИ. Кларк представил эссе в виде речи на конференции Curve AI safety в Беркли несколькими неделями ранее.
По словам Сакса, Anthropic проводит «изощрённую стратегию захвата регулирования», хотя стоит отметить, что действительно изощрённая стратегия, вероятно, не предполагала бы создания врага в лице федерального правительства.
Также на этой неделе директор по стратегии OpenAI Джейсон Квон написал в X, объясняя, почему компания направляет повестки некоммерческим организациям, занимающимся безопасностью ИИ, таким как Encode.
Квон сказал, что после того, как Илон Маск подал в суд на OpenAI, компания усомнилась в прозрачности нескольких организаций, которые также выступили против её реструктуризации.
NBC News сообщила, что OpenAI направила широкие повестки Encode и шести другим некоммерческим организациям, которые критиковали компанию, запрашивая их сообщения, связанные с двумя крупнейшими противниками OpenAI — Маском и генеральным директором Meta Марком Цукербергом.
Один видный лидер движения за безопасность ИИ сказал TechCrunch, что существует растущий раскол между командой OpenAI по связям с правительством и её исследовательской организацией.
В то время как исследователи безопасности OpenAI часто публикуют отчёты, раскрывающие риски систем ИИ, подразделение политики компании лоббировало против SB 53, заявляя, что предпочитает единые правила на федеральном уровне.
Глава OpenAI по согласованию миссии Джошуа Ачиам высказался о рассылке компанией повесток некоммерческим организациям в посте в X на этой неделе: «Возможно, рискуя всей своей карьерой, я скажу: это не выглядит хорошо».
Брендан Штайнхаузер, генеральный директор некоммерческой организации Alliance for Secure AI (которая не получала повесток от OpenAI), сказал TechCrunch, что OpenAI, похоже, убеждена, что её критики являются частью заговора, возглавляемого Маском. Однако он утверждает, что это не так, и что большая часть сообщества по безопасности ИИ весьма критически относится к практикам безопасности xAI или к их отсутствию.
Недавнее исследование Pew показало, что примерно половина американцев больше обеспокоена, чем воодушевлена ИИ, но неясно, что именно их беспокоит. Другое недавнее исследование показало, что американских избирателей больше беспокоят потери рабочих мест и дипфейки, чем катастрофические риски, связанные с ИИ, на которых в основном сосредоточено движение за безопасность ИИ.
Решение проблем безопасности может происходить за счёт быстрого роста индустрии ИИ — компромисс, который беспокоит многих в Силиконовой долине. Учитывая, что инвестиции в ИИ поддерживают значительную часть экономики Америки, страх перед чрезмерным регулированием понятен.
Но после многих лет нерегулируемого развития ИИ движение за безопасность ИИ, похоже, набирает реальную силу в преддверии 2026 года. Попытки Силиконовой долины бороться с группами, ориентированными на безопасность, могут быть признаком того, что они работают.