RAG(検索拡張生成)とは?AIに社内資料を踏まえて答えさせる仕組み

一言でいうと

RAG(Retrieval-Augmented Generation、検索拡張生成)とは、質問に関連する資料をまず「検索」し、それをAIに渡したうえで「答えさせる」仕組みです。

生成AIは、学習した時点までの一般的な知識で答えます。そのため、最新の情報や、自社の社内資料については、知らないまま、それらしく答えてしまうことがあります。そこで、「答える前に、関連する資料を調べて渡す」ことで、資料に基づいた答えを引き出す。これがRAGです。

たとえ話:カンニングペーパーつきの回答

試験で、何も見ずに答える場合と、関連する資料を手元に置いて答える場合を、比べてみてください。

• 資料なし:自分の記憶だけで答える。知らないことは、推測で答えてしまう
• 資料あり(RAG):質問に合う資料を探し、それを読みながら答える

後者のほうが、根拠のある答えになります。RAGは、AIに、質問のたびに、適切な資料を探して渡す仕組みです。

仕組みの流れ

RAGは、大きく4つの段階で動きます。

ここで、AIに一度に渡せる文章の量には上限があります(コンテキストウィンドウとは)。資料全部を渡せないため、関連する部分だけを検索して渡すことが、RAGの大きな役割です。

RAGで得られること

• 最新の情報や社内資料を、答えに反映できる:資料を差し替えれば、更新できる
• 根拠を示しやすい:どの資料から答えたかを、表示できる
• ハルシネーションを減らしやすい:資料に基づいて答えるため、でたらめな回答が起きにくくなる(ハルシネーションとは)

弱点と、よくある落とし穴

ただし、RAGは万能ではありません。

特に、アクセス権は見落とされがちです。「社内の全資料を、RAGに読ませた」結果、役員会の資料や人事情報が、一般の社員の質問への答えに含まれてしまう、といった事故が起こり得ます。

「読み込ませれば、正しく答える」わけではない

社内規程やマニュアル、過去の資料を活用できれば、とても便利です。ただし、資料を読み込ませれば、必ず正しい回答が返ってくるわけではありません。

特に、見落とされやすいのが権限管理です。人事情報や契約情報など、特定の人だけが閲覧できる資料をAIに接続するなら、AIを通じた質問でも、元の資料に対する閲覧権限が守られる設計が必要です。一般の職員がAIに質問しただけで、本来は見られない人事資料の内容まで答えられてしまうなら、便利さ以前の問題です。

導入する時は、回答の精度だけでなく、参照する資料の更新、検索結果の確認、アクセス権限、回答の根拠を確認できる仕組みまで、考える必要があります。

根拠が表示されても、元の資料を自分で開く

RAGでは、答えの根拠となった資料が、一緒に表示されることがあります。これは、とても便利な機能ですが、表示されたから正しい、とは限りません。

私自身、AIの回答がとても自然だったため、念のため元の資料を確認したところ、AIの説明と、実際の資料の内容に、違いがあった経験があります。それ以来、法令・契約・料金・仕様・数字・期限のように、間違えると実務に影響する内容は、AIの回答 → 元の資料を自分で開く → 該当箇所を確認する、という順番にしています(AIの嘘を見抜く5つの方法)。

RAGを導入しても、この考え方は変わりません。むしろ、根拠が示されているからこそ、確認しやすいと言えます。「仕組みに任せる」と同時に、「確認できる状態にしておく」ことが大切です。

導入前に確認したい4つのこと

1. 資料の整備:最新版はどれか、重複や古い資料は整理されているか
2. アクセス権の設計:誰が、どの資料に基づく答えを見られるのか
3. 根拠の表示と確認の方法:答えの元になった資料を、人が確認できるか
4. 評価の方法:よくある質問で、正しい答えが返るかを、定期的に確かめる仕組みがあるか

RAGの成否は、AIの性能よりも、資料の整備と権限の管理で決まることが多いのです。

精度が出ない時の見直しポイント

RAGを試して、「思ったような答えが返ってこない」時は、AIの性能を疑う前に、次の順で見直します。

特に、検索の結果を、人の目で確認することが重要です。答えが的外れな時は、AIが悪いのではなく、そもそも、関係のない資料が渡されていたことが、よくあります。

向いている用途と、向かない用途

個人でできる「手作業のRAG」

専用の仕組みがなくても、RAGの考え方は、日常の使い方に応用できます。資料を貼り付けて、次のように頼みます。

次の資料に書かれている内容だけで答えてください。資料に書かれていない場合は、「書かれていない」と答えてください。 【資料】[ここに貼る(機密情報は除く)]

これだけで、資料なしで聞く場合より、でたらめな答えが出にくくなります。ただし、ゼロにはならないため、重要な部分は、元の資料で確認してください(AIの嘘を見抜く5つの方法)。

まとめ

• RAGは、関連資料を検索して渡したうえで、AIに答えさせる仕組み
• 最新情報や社内資料の反映、根拠の提示ができる
• ハルシネーションを減らせるが、なくならない
• 導入では、資料の整備とアクセス権の管理が成否を分ける

AIが読み込む文章に悪意のある指示が紛れ込むリスクは、プロンプトインジェクションとはで解説しています。