AIが一度に読み書きできる文章量の上限のことです。質問文、過去の会話、読み込ませた資料などをすべて合計した量で数え、これを超えると古い内容から順に扱えなくなります。
意味
コンテキストウィンドウは、AI（LLM（大規模言語モデル））が一度の処理で参照できる情報量の枠のことです。入力した質問文だけでなく、それまでのやり取りの履歴や、添付した資料の文章も、すべてこの枠の中に収まっている必要があります。
枠の大きさは「トークン」という、文字や単語を区切った単位の数で表されます。日本語の場合、おおよそ数文字でトークン1個分に相当することが多く、文章量が多いほど消費するトークン数も増えます。枠を使い切ると、AIは古い部分の情報から順に参照できなくなり、直前のやり取りだけを頼りに回答するようになります。これが「忘れる」ように見える現象の正体です。
枠の大きさはAIの種類や提供元によって異なり、短い会話しか扱えないものから、長い書籍一冊分の文章をまとめて読み込めるものまで幅があります。
使われる場面と具体例
- 長文の資料を要約させる場面で、総務担当者が社内規程やマニュアル全体を読み込ませ、要点をまとめさせるために使います。資料が枠の上限を超えると、一部しか読み込めないことがあります。
- 長時間にわたる相談や問い合わせ対応で、チャットボットが過去のやり取りを踏まえて答える際に働きます。会話が長引くと、初期のやり取りが枠から外れて忘れられることがあります。
- 社内文書を検索して回答させる仕組み（RAG（検索拡張生成））で、関連資料をどれだけ一度に読み込ませられるかに関わります。枠が大きいほど、複数の文書をまとめて参照させやすくなります。
中小企業が押さえたい点
- 導入を検討するAIサービスの枠の大きさを確認し、扱いたい文書量に見合っているかを見ておくと安心です。
- 枠が大きいAIほど利用料金が高くなる傾向があるため、必要な文章量とコストのバランスを確認します。
- 重要な指示や条件は、会話の途中で改めて伝え直す運用にすると、古い内容が忘れられても回答の精度を保ちやすくなります。
よくある誤解
枠が大きいほど常に良い結果が出ると思われがちですが、情報量が多すぎるとAIが重要な部分を見落とすこともあります。
また、一度伝えた指示は会話が続く限りずっと覚えていると思われがちですが、実際には枠から外れた時点で参照されなくなります。
よくある質問
Q. コンテキストウィンドウが大きいAIを選べば安心ですか。
A. 扱える文章量は増えますが、量が多いほど重要な部分の見落としが起きることもあり、必ずしも精度の向上を保証するものではありません。
Q. 上限を超えるとどうなりますか。
A. 古い会話や資料の内容から順に参照されなくなり、直近のやり取りだけをもとに回答するようになります。
Q. 枠の大きさはどこで確認できますか。
A. 利用するAIサービスの仕様や料金ページに、扱えるトークン数として記載されていることが一般的です。
関連する用語
関連記事
ほかの用語を探す
