Контекстное окно

Также: контекст модели, context window

Коротко

Максимальный объём текста в токенах, который модель может учитывать одновременно: запрос, история диалога, найденные документы и ответ.

Чем больше окно, тем больше документов ассистент может прочитать перед ответом. Но и тогда он опирается на самые релевантные фрагменты — поэтому важны понятные чанки.

Упоминается в статьях

🎯GEO GEO · AEO

Опорная уязвимость: когда ответы ИИ о компании держатся на одном источнике

Если большинство ответов ассистентов о компании ссылаются на одну подборку или справочник, их изменение мгновенно меняет картину. Как измерить концентрацию источников и снизить риск.

⏱ 5 минЧитать →

🎯GEO GEO · AEO

GEO-насыщение: признаки того, что приёмы оптимизации перестали работать

Когда все конкуренты в нише применяют одни и те же приёмы GEO, их эффект стремится к нулю. Как распознать насыщение и на что переключиться: данные, отзывы,…

⏱ 5 минЧитать →