Context Windowは、LLMが一度に処理・参照できる入力テキストの最大範囲です。トークン(単語・文字の断片)数で定義され、モデルごとに対応する上限が異なります。会話履歴・添付文書・指示文を含めた合計量がContext Windowを超えると、モデルは古い情報を認識できなくなります。OpenAI・Anthropic・Google DeepMind等、主要AI企業がモデルのContext Window拡大競争を続けています。
長い会話や大量の文書をAIに処理させたい開発者・利用者に該当します。
モデルの推論能力自体とは別に、一度に扱える入力量という物理的な制約を表す点が特徴です。