Исследователи OpenAI обеспокоены запуском приложения Sora
Несколько нынешних и бывших исследователей OpenAI высказали свои опасения по поводу первого шага компании в сфере социальных сетей — приложения Sora. Это платформа с лентой видео, созданных с помощью ИИ, напоминающая TikTok, где много дипфейков с Сэмом Альтманом.
Исследователи, высказывая свои опасения в X, сомневаются, насколько запуск приложения соответствует некоммерческой миссии OpenAI — разработке продвинутого ИИ на благо человечества.
«Ленты на основе ИИ пугают», — написал исследователь предварительного обучения OpenAI Джон Холлман в посте в X. — «Не буду отрицать, что почувствовал некоторую обеспокоенность, когда впервые узнал о выпуске Sora 2. Тем не менее, я думаю, что команда сделала всё возможное, чтобы создать позитивный опыт… Мы сделаем всё возможное, чтобы ИИ помогал, а не вредил человечеству».
Боаз Барак, ещё один исследователь OpenAI и профессор Гарварда, ответил: «Я разделяю смешанные чувства беспокойства и воодушевления. Sora 2 технически впечатляет, но пока рано поздравлять себя с тем, что мы избежали ловушек других приложений социальных сетей и дипфейков».
Бывший исследователь OpenAI Рохан Пандей использовал этот момент, чтобы рассказать о новом стартапе Periodic Labs, который состоит из бывших исследователей ИИ-лаборатории и стремится создавать ИИ-системы для научных открытий: «Если вы не хотите создавать бесконечную машину TikTok на основе ИИ, но хотите разрабатывать ИИ, который ускорит фундаментальные научные открытия… присоединяйтесь к нам в Periodic Labs».
Были и другие посты в том же духе.
Запуск Sora подчёркивает основное противоречие для OpenAI, которое возникает снова и снова. Это самая быстрорастущая потребительская технологическая компания на Земле, но в то же время — передовая лаборатория ИИ с высокой некоммерческой миссией. Некоторые бывшие сотрудники OpenAI утверждают, что потребительский бизнес теоретически может служить миссии: ChatGPT помогает финансировать исследования в области ИИ и широко распространять технологию.
Генеральный директор OpenAI Сэм Альтман объяснил в посте в X, почему компания выделяет столько капитала и вычислительных мощностей на приложение социальных сетей с ИИ: «Нам действительно нужен капитал для создания ИИ, который может заниматься наукой, и мы сосредоточены на AGI почти всеми нашими исследовательскими усилиями. Также приятно показывать людям новые крутые технологии и продукты, заставлять их улыбаться и, надеюсь, зарабатывать немного денег, учитывая все необходимые вычисления».
Но в какой момент потребительский бизнес OpenAI перевесит её некоммерческую миссию? Иными словами, когда OpenAI откажется от возможности заработать деньги и расширить платформу, потому что это противоречит миссии?
Вопрос становится всё более актуальным, поскольку регулирующие органы внимательно изучают переход OpenAI к коммерческой деятельности, который необходим компании для привлечения дополнительного капитала и в конечном итоге выхода на биржу. Генеральный прокурор Калифорнии Роб Бонта заявил в прошлом месяце, что его «особенно беспокоит необходимость того, чтобы заявленная миссия безопасности OpenAI как некоммерческой организации оставалась в центре внимания» при реструктуризации.
Скептики отвергают миссию OpenAI как инструмент брендинга для привлечения талантов из крупных технологических компаний. Но многие сотрудники OpenAI настаивают на том, что именно эта миссия является главной причиной, по которой они присоединились к компании.
На данный момент охват Sora невелик; приложению всего один день. Но его дебют знаменует собой значительное расширение потребительского бизнеса OpenAI и подвергает компанию искушениям, которые десятилетиями преследуют приложения социальных сетей.
В отличие от ChatGPT, который оптимизирован для полезности, OpenAI утверждает, что Sora создана для развлечения — это место для создания и обмена клипами, созданными с помощью ИИ. Лента напоминает TikTok или Instagram Reels — платформы, печально известные своими аддиктивными циклами.
OpenAI утверждает, что хочет избежать этих ловушек, заявляя в блоге, анонсирующем запуск Sora, что «опасения по поводу бесконечного скроллинга, зависимости, изоляции и оптимизированных лент находятся в центре внимания». Компания прямо заявляет, что не оптимизирует ленту под время, проведённое в приложении, а вместо этого хочет максимизировать создание контента. OpenAI обещает отправлять пользователям напоминания, когда они слишком долго скроллят, и в основном показывать им людей, которых они знают.
Пока рано говорить, насколько приложение Sora соответствует пользователям или миссии OpenAI. Пользователи уже замечают в приложении некоторые техники, оптимизирующие вовлечённость, например, динамические эмодзи, которые появляются каждый раз, когда вы ставите лайк видео. Это похоже на попытку вызвать у пользователей выброс дофамина за взаимодействие с видео.
Настоящий тест будет заключаться в том, как OpenAI будет развивать Sora. Учитывая, насколько ИИ захватил обычные ленты социальных сетей, кажется вероятным, что ленты, основанные на ИИ, скоро получат своё время. Сможет ли OpenAI развить Sora, не повторив ошибок своих предшественников, пока неизвестно.