Что значит context window?

Где и как употребляется

Размер описывают, например, как контекстное окно на 128 тысяч токенов. Когда диалог превышает лимит, старые части удаляют или суммируют. Также говорят context length.

Примеры предложений

1. The whole contract fits in the context window, so we don't need to split it.

   Весь договор помещается в контекстное окно, поэтому делить его не нужно.

   Лимита модели достаточно для обработки документа целиком.

2. Answer quality drops when we fill the last part of the context window.

   Качество ответа падает, когда мы заполняем последнюю часть контекстного окна.

   Переполнение или чрезмерное использование контекста ухудшает ответ модели.

Распространённые словосочетания

• context window size
• long context window
• fit in the context window
• 128k context window