はじめに
ハルシネーションはなぜ起きるのかでは、生成AIが学習データにない情報について、もっともらしい間違いを答えてしまうことがあるという話をしました。この弱点を補うための代表的な仕組みが「RAG（Retrieval-Augmented Generation）」です。難しそうな名前ですが、正体は「カンニングペーパー」とイメージするとシンプルに理解できます。
RAGの正体は「カンニングペーパー」
生成AIは、学習した時点までの情報しか「記憶」していません。さらに、その記憶はあくまで統計的なパターンであり、社内の規程やマニュアル、最新の製品情報といった、学習データに含まれていない情報については答えようがありません。
RAGは、質問に答える前に、関連する資料（社内マニュアル、FAQ、最新のドキュメントなど）をその場で検索し、見つけた内容を「参考資料」として生成AIに渡してから回答させる仕組みです。試験中にカンニングペーパーをこっそり見ながら答えるようなイメージに近く、記憶だけに頼らず、手元の正確な資料を見ながら回答するため、精度が大きく向上します。
なぜカンニングペーパーが必要なのか
生成AIをそのまま社内の問い合わせ対応などに使おうとすると、次のような問題にぶつかります。
- 自社独自の規程やルールは、当然ながら学習データには含まれていない
- 製品情報や料金プランなどは頻繁に更新されるが、生成AIの記憶は学習時点で止まっている
- 知らない情報を聞かれても、[ハルシネーション](https://marimoblog.biz/why-hallucination-happens/)が起きてそれらしく答えてしまう
RAGは、こうした「生成AIが本来知らないはずの情報」を、検索した資料という形でその場で与えることで、正確性を担保する仕組みです。
RAGの仕組み（ざっくりと）
RAGの処理は、大きく分けて次の2段階で動いています。
1. 検索（Retrieval）：ユーザーの質問に関連する文書を、社内のドキュメント群からあらかじめ検索しておく
2. 生成（Generation）：検索で見つかった文書の内容を「参考資料」として生成AIに渡し、それをもとに回答文を作成させる
ポイントは、生成AI自体の学習をやり直しているわけではない、という点です。あくまで「回答する直前に、関連資料を一時的に見せている」だけなので、資料を更新すればすぐに最新の回答に反映できる、という柔軟性もRAGの大きな利点です。
発注側として知っておくべきこと
「社内版ChatGPTを作りたい」「自社のマニュアルに基づいて答えてくれるチャットボットが欲しい」といった要望は、ほとんどの場合このRAGという仕組みが前提になります。ベンダーから提案を受ける際に、この仕組みを理解しておくと、次のような論点で会話ができるようになります。
- 検索対象にする社内文書は、どこまで整備されているか（そもそも検索できる形になっているか）
- 文書の更新頻度に対して、検索対象への反映はどのくらいのタイムラグで行われるか
- 独自のAIモデルを作るわけではないので、比較的低コストで実現できることが多い
「AIに社内情報を学習させる」という表現をベンダーがした場合も、実態はこのRAGであることが多いため、「モデル自体を作り直しているのか、それとも検索の仕組みを足しているだけなのか」を確認しておくと、見積もりの妥当性を判断しやすくなります。
まとめ
RAGは、生成AIに質問に答えさせる前に、関連する社内資料を検索して「カンニングペーパー」として渡す仕組みです。学習データにない社内固有の情報やハルシネーションへの対策として広く使われており、発注側としても「モデルを作り直しているのか、検索の仕組みを足しているだけなのか」を見極める視点を持っておくことが重要です。
執筆者プロフィール：SIer（元請け）とITコンサルファーム（発注側支援）、両方の立場でプロジェクトに従事（通算9年）。要件定義からベンダーマネジメントまで一貫して対応し、基幹システム刷新・DX推進プロジェクトに多数従事。
コメント