Сенат Калифорнии одобрил законопроект о безопасности ИИ
Сенат Калифорнии рано утром в субботу окончательно одобрил крупный законопроект о безопасности ИИ, который устанавливает новые требования к прозрачности крупных компаний.
По словам автора законопроекта, сенатора Скотта Винера, SB 53 «требует от крупных лабораторий ИИ быть прозрачными в отношении своих протоколов безопасности, создаёт механизмы защиты информаторов в лабораториях ИИ и создаёт публичное облако для расширения доступа к вычислительным ресурсам (CalCompute)».
Теперь законопроект отправится на рассмотрение губернатору Калифорнии Гэвину Ньюсому, который может подписать его или наложить вето. В прошлом году Ньюсом уже наложил вето на более обширный законопроект о безопасности, также подготовленный Винером, но при этом подписал более узкое законодательство, направленное на борьбу с дипфейками.
Тогда Ньюсом признал важность «защиты общественности от реальных угроз, связанных с этой технологией», но раскритиковал предыдущий законопроект Винера за применение «строгих стандартов» к крупным моделям независимо от того, используются ли они в средах с высоким уровнем риска, для принятия критически важных решений или работы с конфиденциальными данными.
Винер заявил, что на новый законопроект повлияли рекомендации экспертной группы по ИИ, которую Ньюсом созвал после своего вето.
По сообщению Politico, недавно в SB 53 были внесены изменения: компании, разрабатывающие «передовые» модели ИИ и имеющие годовой доход менее 500 миллионов долларов, должны будут раскрывать только общую информацию о протоколах безопасности, а компании с большим доходом — предоставлять более подробные отчёты.
Ряд компаний из Силиконовой долины, венчурных фондов и лоббистских групп раскритиковали законопроект, а также более широкие усилия штатов по регулированию ИИ. В недавнем письме Ньюсому OpenAI, не упоминая конкретно SB 53, утверждала, что для избежания «дублирования и несоответствий» компании должны считаться соответствующими государственным правилам безопасности, если они соответствуют федеральным или европейским стандартам.
Глава отдела политики в области ИИ и главный юрисконсульт Andreessen Horowitz недавно заявил, что «многие из сегодняшних государственных законопроектов об ИИ — например, предложения в Калифорнии и Нью-Йорке — рискуют» перейти черту, нарушая конституционные ограничения на регулирование межштатной торговли со стороны штатов.
Соучредители a16z ранее указывали на регулирование технологий как на один из факторов, побудивших их поддержать кандидатуру Дональда Трампа на второй срок. Администрация Трампа и её союзники впоследствии призвали к 10-летнему запрету на регулирование ИИ на уровне штатов.
Anthropic, тем временем, выступила в поддержку SB 53. Сооснователь Anthropic Джек Кларк в своём посте заявил: «Мы давно говорили, что предпочли бы федеральный стандарт. Но в его отсутствие этот законопроект создаёт надёжный план управления ИИ, который нельзя игнорировать».