コンテキストウィンドウとは?AIが「覚えていられる量」の話

コンテキストウィンドウとは何か

コンテキストウィンドウとは、生成AIが、1回のやり取りの中で一度に読み込んで記憶しておける、情報量の上限のことです。以前の記事で紹介した「トークン」という単位を使って、その上限の大きさが表されることが一般的です。

なぜAIは「すべて」を覚えていられないのか

生成AIは、人間のように無制限に記憶を蓄積し続けているわけではありません。会話やり取りのたびに、それまでの会話内容全体を、コンテキストウィンドウという決められた枠の中に収めた上で、処理を行っています。この枠の容量を超えると、古い部分の情報から、徐々に扱われなくなっていくことがあります。

「メモ用の作業机の広さ」に例えると

コンテキストウィンドウは、作業に使える机の広さに例えるとわかりやすいかもしれません。机の上に置ける資料(会話の内容)には限りがあり、新しい資料を置くスペースが足りなくなると、机の端にあった古い資料から、徐々に片付けざるを得なくなります。AIも同様に、長い会話を続けるほど、古いやり取りの内容が、徐々に処理の対象から外れやすくなっていきます。

コンテキストウィンドウが大きいことのメリット

• 長い文章や、複数の資料をまとめて読み込ませて、内容を横断的に理解してもらえる
• 長時間にわたる会話でも、話の前提や過去のやり取りを踏まえた回答を得やすくなる
• 複雑な作業を、一度に多くの情報を踏まえながら進めてもらいやすくなる

近年、このコンテキストウィンドウの容量は、各AI開発企業の技術競争によって急速に拡大が進んでいます。

利用する上で意識しておきたいこと

非常に長い会話や、大量の資料を一度に読み込ませる場合、コンテキストウィンドウの上限に近づくにつれて、AIが古い情報を踏まえた回答をしにくくなることがあります。重要な前提条件は、会話の途中で改めて伝え直す、あるいは要点を簡潔にまとめ直してから伝える、といった工夫が有効とされています。

運営者自身、この言葉を初めて目にした時は理解に時間がかかったため、できるだけ噛み砕いた説明を心がけました。

押さえておきたいポイント

コンテキストウィンドウは、AIが一度に扱える情報量の「作業机の広さ」のようなものです。この仕組みを理解しておくと、AIとのやり取りの中で起こる、噛み合わなさの原因にも気づきやすくなります。

関連記事:RAG(検索拡張生成)とは