コンテキストウィンドウとは——AIが一度に見渡せる範囲と、その外で起きること
AIが一度に見渡せる情報の広さ。指示・添付資料・それまでの会話がすべてこの中に収まり、あふれた分は視野から消えます。
「さっき伝えたはずの条件を、AIが無視してくる」——使い始めて最初にぶつかる壁です。相手が忘れっぽいのではなく、そもそも見えていない、というのが実際のところです。
その視野の広さを指す言葉が、コンテキストウィンドウです。
一度に見渡せる範囲のこと
AIが返事を組み立てるとき、参照しているのは「今この瞬間に手元にある情報」だけです。そこに入るのは、次のすべてです。
- システム側であらかじめ設定されている指示(システムプロンプト)
- あなたが今書いた指示
- 添付した資料の中身
- それまでのやり取りの履歴
- AI自身がこれから書く回答
これらを合わせた量に上限があり、その上限がコンテキストウィンドウです。単位はトークンで表されます。
机の広さを思い浮かべると近い感覚になります。広い机なら資料を並べたまま作業できますが、狭ければ古い資料から片づけることになります。片づけられた資料は、探しに行くのではなく、単に見えなくなります。
子育ての現場でいうと
朝、出かけ際にこう言います。「手を洗って、着替えて、宿題を出して、麦茶飲んで、靴下履いて」。
戻ってくると、手だけ洗って立っています。
叱っても仕方がありません。一度に持てる数を超えたら、あふれます。しかも、あふれた指示が消えるだけでなく、残った一つも曖昧になる。四人いても、ここは全員同じです。
AIに渡す情報も、これと同じです。上限があること以上に、「あれもこれも」で肝心の指示が埋もれるほうが、実務では効きます。
これは体感ではなく、提供側も明記しています。
A larger context window allows the model to handle more complex and lengthy prompts, but more context isn’t automatically better. As token count grows, accuracy and recall degrade, a phenomenon known as context rot.
(広いほど複雑で長い指示を扱えるが、多ければ良いというものではない。トークン数が増えるほど正確さと想起は劣化する——これは context rot と呼ばれる現象である)
一度に言う数を増やす話ではなく、何を言って何を言わないかの話だ、ということです。
上限を超えると何が起きるか
サービスによって振る舞いは違いますが、実務で困るのはたいてい次のどちらかです。
古い部分が落ちる。会話の前半で決めた前提が視野から外れ、後半の指示だけで動きます。エラーが出るわけではないので、間違った回答が普通の顔で返ってきます。
要約されて残る。長い会話を裏側で圧縮して持ち続ける作りのサービスもあります。要点は残りますが、細部——数値の但し書き、例外の扱い、口頭で足した条件——が落ちます。落ちたことは画面に出ません。
どちらも「AIが嘘をついた」ように見えますが、起きているのは視野の外の話です。
広ければ賢い、ではない
上限の大きさは年々広がり、長い資料をそのまま渡せるようになりました。ただ、広い机に書類を積み上げたからといって、仕事の質が上がるわけではありません。
大量の情報の中に指示が埋もれると、AIは優先順位を取り違えます。中ほどに書いた条件が効かない、という現象は、上限に達していなくても起こります。
現場で効くのは、広さを増やすことより、渡すものを選ぶことです。
| よくある渡し方 | 変えると効くところ |
|---|---|
| 議事録を全文貼る | 決定事項と宿題だけを渡す |
| 関連しそうな資料を全部添付 | その判断に使う資料だけに絞る |
| 一つの会話で複数の案件を扱う | 案件ごとに会話を分ける |
| 前提条件を会話の途中で伝える | 毎回必ず渡される場所に置く |
最後の行が、いちばん効きます。会話の中で伝えた条件は、その会話が終われば消えます。担当者が変われば、もう誰も知りません。
「置いておく」という発想へ
視野の広さは、使う側では変えられません。変えられるのは、そこに何を入れるかです。
毎回の入り口で必ず渡されるものとして自社の判断基準を置いておけば、会話の長さに関係なく効き続けます。これがコンテキストエンジニアリングの入り口で、社内展開が個人技で止まるか仕組みとして残るかの分かれ目でもあります。
社内文書が大量にあって、そもそも全部は入りきらない場合は、質問のたびに必要な部分だけを探して渡す作りにします。その仕組みがRAGです。
視野の外にあるものは、AIにとって存在しません。ここを押さえておくと、導入で起きるつまずきの多くが説明できるようになります。
顧問先によく聞かれること
- 長い会話をしていると、最初に伝えた条件を無視されます。なぜですか。
- 視野の外に出たか、後ろの情報に埋もれたかのどちらかです。前提条件が長く効き続ける仕事では、会話の中で一度伝えるのではなく、毎回の入り口で必ず渡される場所に置くのが確実です。
- 上限が大きいモデルを選べば解決しますか。
- 途中で切れる課題は減りますが、精度の課題は残ります。広い視野に大量の情報を入れると、どれを優先すべきかが伝わらなくなります。広さの確保と、渡すものの絞り込みは別の作業です。
出典(一次情報)
- Context windows(コンテキストウィンドウ) Anthropic / Claude Docs
解釈を挟まない一次情報だけを挙げています。仕様・条件・制度は改定されるため、 判断に使う際は必ずリンク先の最新版をご確認ください。