もう少し詳しく
コンテキストウィンドウとは、対話型AI(チャットボット)が一度のやり取りの中で読み込み・記憶しておける文章量の上限のことです。単位には「トークン」(AIが文章を処理する際の最小単位で、英語ではおおむね単語の一部、日本語では数文字程度に相当する)が使われます。この上限を超える量の文章を送ると、AIは古い部分から内容を忘れてしまい、会話の前半の指示を踏まえた応答ができなくなります。
どこで使われるか
ChatGPTやClaude、Geminiのようなチャットボット、AIを使った文書要約サービス、プログラムのコード全体を読み込んで修正提案を行うAIコーディング支援ツールなど、AIとの対話を伴うほぼすべてのサービスで、裏側の重要な性能指標として扱われています。
身近な例
長い会議の議事録やマニュアルをまるごとAIに読み込ませて要約や質問をする場合、コンテキストウィンドウが小さいAIでは全文を読み込みきれず、一部を省略したり分割して渡したりする必要があります。逆にコンテキストウィンドウが大きいAIであれば、長い文書でも一度にまとめて扱えます。
注意点
コンテキストウィンドウが大きいほど便利ですが、その分AI側の計算負荷が増えるため、利用料金が高くなったり、応答が遅くなったりする場合があります。また、上限内に収まっていても、文章が長くなるほどAIが内容の細部を見落としやすくなることが知られており、「上限に収まっているから大丈夫」とは限らない点にも注意が必要です。

