Контекстное смещение (Context Shift)

Представьте, что вы ведёте разговор с другом о поездке на море. Сначала речь идёт о выборе отеля, потом — о пляжах, затем — о местных ресторанах. С каждым новым вопросом и ответом тема «дрейфует»: изначальный фокус на отеле размывается, и диалог уходит в сторону гастрономии. В работе с нейросетью происходит нечто похожее: изначальный промпт может постепенно «сместиться» по смыслу из‑за накопившегося контекста.

Почему это важно?

• приводить к потере ключевой цели запроса;
• вызывать неоднозначные или нерелевантные ответы;
• усложнять отслеживание логики диалога для пользователя.

Аналогия из бытового мира

Представьте кулинарный рецепт, где на каждом шаге вы немного меняете ингредиенты. В итоге блюдо может получиться совсем не тем, что было задумано изначально. Так и с промптом: каждое новое уточнение или вопрос может незаметно «переписать» исходный замысел.

Подробности и история

Проблема контекстного смещения стала особенно актуальной с развитием больших языковых моделей (LLM) и диалоговых интерфейсов (например, ChatGPT, Gemini, Claude). В ранних системах обработки естественного языка (NLP) контекст часто ограничивался одним запросом, поэтому смещение было менее заметно. С появлением моделей, способных удерживать длинный диалог (например, на базе архитектуры Transformer), вопрос управления контекстом вышел на первый план.

Ключевые факторы, влияющие на контекстное смещение:

• длина диалога (чем дольше общение, тем выше риск «ухода» от темы);
• неоднозначность промпта (если запрос сформулирован расплывчато, модель может интерпретировать его по‑своему);
• динамическое добавление информации (новые факты или вопросы могут переключить фокус).

Отличия от похожих терминов

• Контекстное окно — это технический лимит на объём информации, которую модель может «удерживать» в памяти. Контекстное смещение — это семантический эффект, возникающий внутри этого окна.
• Промпт‑рефрейминг — сознательное переформулирование запроса для смены угла зрения. Контекстное смещение происходит неосознанно, как побочный эффект диалога.
• Перплексия — мера неопределённости модели при предсказании следующего токена. Контекстное смещение связано с изменением смысла, а не с вероятностной оценкой.

Примеры

1. Исходный промпт: «Напиши краткий обзор книги „1984“ Джорджа Оруэлла».
   После нескольких уточнений: «А теперь сравни её с современными технологиями слежки».
   Результат: модель начинает описывать нейросети и Big Data, полностью уходя от литературного анализа.
2. Диалог с чат‑ботом:
   — Пользователь: «Посоветуй книгу по психологии».
   — Бот: «Например, „Эмоциональный интеллект“ Дэниела Гоулмана».
   — Пользователь: «А есть что‑то про отношения?»
   — Бот: «Попробуйте „Пять языков любви“ Гэри Чепмена».
   — Пользователь: «А как это связано с работой?»
   Итог: обсуждение смещается в сторону корпоративной психологии, хотя изначальный запрос был шире.

Как использовать термин

• В разработке чат‑ботов: для описания рисков потери фокуса в длинных диалогах.
• В промпт‑инжиниринге: для обоснования необходимости периодического «возврата к теме» в диалоге.
• В исследованиях NLP: для анализа качества удержания контекста в моделях разных архитектур.