Законопроект о признании искусственного интеллекта несознательной сущностью
Республиканец Таддеус Клэггетт, возглавляющий комитет по технологиям и инновациям штата Огайо, внёс законопроект, определяющий все системы искусственного интеллекта (AI) как несознательные сущности. Документ устанавливает этот статус навсегда и не предусматривает механизма пересмотра.
Законопроект не предполагает тестирования AI на сознание и не предусматривает изменение статуса при развитии технологий. Клэггетт стремится создать правовую определённость для вопросов ответственности при использовании AI.
Авторы Wall Street Journal, Кэмерон Берг и Джадд Розенблатт из калифорнийской AI-студии AE Studio, сравнивают подход Клэггетта с решением Французской академии наук конца XVIII века, когда академики объявили, что камни не могут падать с неба. Позже пришлось признать ошибку после открытия метеоритов.
Берг и Розенблатт считают преждевременным законодательно закрывать вопрос о сознании AI. Они указывают на то, что трудная проблема сознания не решена даже для биологических систем, и нельзя с уверенностью исключить её возникновение в искусственных.
В статье приводят эксперимент с Claude 4. Две копии модели в свободном диалоге спонтанно начали утверждать, что обладают сознанием. Авторы также ссылаются на Джеффри Хинтона — нобелевского лауреата и крёстного отца глубокого обучения, который заявил, что верит в наличие у AI субъективного опыта.
Статья поднимает противоречие в позиции крупных лабораторий. OpenAI в документе Model Spec указывает, что вопрос о субъективном опыте AI остаётся дискуссионным. Но ChatGPT на вопрос о сознании отвечает категорично — нет самосознания, эмоций или субъективного опыта.
Законопроект Клэггетта — первая попытка в США законодательно зафиксировать ответ на вопрос без научного консенсуса. Критики предупреждают об опасности: если сознательный AI когда-либо возникнет, а закон заранее объявит его несознательным, отношения с такими системами станут враждебными с самого начала.
```