Сэм Альтман о бот-активности в социальных сетях: «Контент стал неотличим от машинного»
Сэм Альтман, энтузиаст X и акционер Reddit, в понедельник пришёл к неожиданному выводу: боты сделали невозможным определение того, действительно ли посты в социальных сетях написаны людьми. Этот вывод он сделал, читая и делясь постами из сабреддита r/Claudecode, которые восхваляли OpenAI Codex.
OpenAI запустила сервис программирования Codex в мае, конкурируя с Claude Code от Anthropic. В последнее время сабреддит переполнен постами от самопровозглашённых пользователей Code, которые сообщают о переходе на Codex. Один из пользователей Reddit даже пошутил: «Можно ли перейти на Codex, не опубликовав пост на Reddit?»
Это заставило Альтмана задуматься, сколько из этих постов написано реальными людьми. «У меня был странный опыт чтения этого: я предполагаю, что всё это фейк/боты, хотя в данном случае я знаю, что рост Codex действительно сильный, и тенденция реальна», — признался он в X.
Альтман проанализировал свои рассуждения: «Я думаю, происходит несколько вещей: реальные люди переняли особенности речи LLM, активная онлайн-аудитория ведёт себя очень согласованно, цикл ажиотажа имеет крайности типа «всё кончено/мы вернулись», существует давление со стороны социальных платформ на повышение вовлечённости и связанный с этим способ монетизации контента, другие компании занимались астротурфингом, и я особенно чувствителен к этому, и ещё много всего (включая, вероятно, некоторых ботов)».
По сути, он обвиняет людей в том, что они начинают звучать как LLM, хотя LLM, возглавляемые OpenAI, были буквально созданы для имитации человеческого общения. Модели OpenAI определённо обучались на Reddit, где Альтман был членом совета директоров до 2022 года и был раскрыт как крупный акционер во время IPO компании в прошлом году.
Альтман также отмечает, что фан-сообщества, возглавляемые активными пользователями социальных сетей, часто ведут себя странно. Многие группы могут превратиться в арену для выражения недовольства.
Кроме того, Альтман намекает на то, что про-OpenAI посты в сабреддите могут быть работой ботов, поскольку OpenAI также подвергалась астротурфингу. Астротурфинг обычно включает в себя посты от людей или ботов, оплачиваемых конкурентом или третьим лицом, что даёт конкуренту правдоподобное отрицание.
Хотя у нас нет доказательств астротурфинга, мы видели, как сабреддиты OpenAI ополчились на компанию после выпуска GPT 5.0. Вместо волн похвалы от преданных фанатов новая модель вызвала множество гневных постов. Люди жаловались на всё: от личности GPT до того, что она расходует кредиты, не завершая задачи.
Через день после бурного релиза Альтман провёл сессию «спроси меня о чём угодно» на r/GPT, где признался в проблемах с развёртыванием и пообещал изменения. Сабреддит GPT так и не восстановил прежний уровень лояльности, пользователи продолжают регулярно публиковать посты о том, насколько им не нравятся изменения в GPT 5.0.
Альтман предполагает: «В итоге AI Twitter/AI Reddit кажутся очень ненастоящими, чего не было год или два назад».
Если это правда, то чья это вина? GPT привела к тому, что модели стали настолько хороши в написании текстов, что LLM стали проблемой не только для социальных сетей (которые всегда сталкивались с проблемой ботов), но и для школ, журналистики и судов. Хотя мы не знаем, сколько постов на Reddit написано ботами или вымышленными аккаунтами, использующими LLM, вероятно, их число значительно. Компания по обеспечению безопасности данных Imperva сообщила, что более половины всего интернет-трафика в 2024 году был нечеловеческим, во многом благодаря LLM. Бот X Grok говорит: «Точные цифры не публикуются, но по оценкам на 2024 год на X насчитывается сотни миллионов ботов».