Что такое Контекстное окно (Context Window)

Контекстное окно — максимальное количество токенов, которое модель может обработать за один запрос (включая входные и выходные данные). Размер окна определяет, сколько информации модель «видит» одновременно. GPT-4 Turbo: 128K токенов, Claude 3: 200K, Gemini 1.5 Pro: 1M. Большое контекстное окно позволяет анализировать длинные документы, целые кодовые базы и многочасовые транскрипции за один запрос без разбиения на части.