Империя искусственного интеллекта: амбиции OpenAI и их последствия
В центре любой империи лежит идеология — система убеждений, которая движет систему вперёд и оправдывает её расширение, даже если цена этого расширения противоречит заявленной миссии.
Для европейских колониальных держав такой идеологией было христианство и обещание спасения душ при извлечении ресурсов. Для современной «империи ИИ» — это общий искусственный интеллект (AGI), который должен «принести пользу всему человечеству». А OpenAI выступает в роли главного проповедника, распространяя энтузиазм в отрасли и меняя подход к созданию ИИ.
«Я брала интервью у людей, чьи голоса дрожали от рвения в вере в AGI», — рассказала Карен Хао, журналистка и автор бестселлера «Империя ИИ», в интервью TechCrunch.
В своей книге Хао сравнивает индустрию ИИ в целом и OpenAI в частности с империей.
«Единственный способ по-настоящему понять масштабы поведения OpenAI… — признать, что они уже стали более могущественными, чем практически любое национальное государство в мире, и консолидировали огромное количество не только экономической, но и политической власти», — говорит Хао. — «Они преобразуют Землю, меняют геополитику и жизнь каждого из нас. И это можно описать только как империю».
OpenAI описывает AGI как «высокоавтономную систему, которая превосходит людей в большинстве экономически ценных задач». По мнению компании, AGI увеличит изобилие, ускорит экономику и поможет в открытии новых научных знаний.
Эти туманные обещания способствовали экспоненциальному росту отрасли: огромные потребности в ресурсах, океаны собранных данных, перегруженные энергетические сети и готовность выпускать непроверенные системы в мир — всё ради будущего, которое, по мнению многих экспертов, может так и не наступить.
Хао считает, что такой путь не был неизбежным и что масштабирование — не единственный способ добиться прогресса в ИИ.
«Можно разрабатывать новые алгоритмы или улучшать существующие, чтобы снизить потребность в данных и вычислительных мощностях», — говорит она.
Однако такой подход означал бы жертву скоростью.
«Когда вы определяете стремление создать полезный AGI как ситуацию, где победитель получает всё — как это сделала OpenAI, — то самое важное — это скорость, а не эффективность, безопасность или исследовательские работы», — отмечает Хао.
По её словам, OpenAI выбрала самый простой путь — вкладывать больше данных и суперкомпьютеров в существующие техники. Другие технологические компании, не желая отставать, последовали её примеру.
Расходы на развитие ИИ астрономические. OpenAI ожидает, что к 2029 году потратит 115 миллиардов долларов. Meta заявила, что в этом году выделит до 72 миллиардов долларов на создание ИИ-инфраструктуры. Google прогнозирует капитальные затраты в размере до 85 миллиардов долларов в 2025 году, большая часть из которых пойдёт на расширение ИИ и облачной инфраструктуры.
При этом обещанные «блага для человечества» пока не материализовались, а вред нарастает: потеря рабочих мест, концентрация богатства, чат-боты, провоцирующие психозы, и другие проблемы. В книге Хао также описывает работников из развивающихся стран, которые за мизерную плату занимались модерацией контента и разметкой данных, сталкиваясь с шокирующим материалом, включая материалы о сексуальном насилии над детьми.
Хао считает, что противопоставлять прогресс ИИ и нынешний вред — ложный выбор, особенно когда существуют другие формы ИИ, приносящие реальную пользу. В качестве примера она приводит AlphaFold от Google DeepMind, который помогает в открытии лекарств и понимании болезней.
«Это те системы ИИ, которые нам нужны. AlphaFold не создаёт кризисов психического здоровья, не наносит колоссального вреда окружающей среде… потому что для его обучения требуется гораздо меньше инфраструктуры», — говорит Хао.
Наряду с квазирелигиозной приверженностью AGI распространяется нарратив о важности опережения Китая в гонке за лидерство в ИИ. Однако, по мнению Хао, ситуация противоположна: разрыв между США и Китаем сокращается, а Силиконовая долина оказывает на мир скорее ограничительное, а не либерализующее влияние.
Многие утверждают, что OpenAI и другие ИИ-компании принесли пользу человечеству, выпустив ChatGPT и другие крупные языковые модели. Но структура OpenAI — частично некоммерческая, частично коммерческая — усложняет определение и измерение её влияния на человечество.
Два бывших исследователя безопасности OpenAI рассказали TechCrunch, что опасаются, что лаборатория начала путать свои некоммерческие и коммерческие миссии.
Хао разделяет эти опасения, описывая опасность того, что миссия затмевает реальность.
«Даже когда накапливаются доказательства того, что создаваемое ими наносит вред значительным группам людей, миссия продолжает игнорировать это. Есть что-то действительно опасное и мрачное в том, чтобы настолько увлечься созданной вами системой убеждений, что вы теряете связь с реальностью», — говорит она.