RAGとは何ですか？　社内の資料をAIに答えさせる仕組みと精度の決まり方

「有給休暇の繰越の扱いを教えて」。チャットAIにそう聞くと、整った日本語で答えが返ってきます。条文の番号まで添えられていて、いかにも正しそうに見える。ところが自社の就業規則を開くと、書いてある内容が違いました。

AIが嘘をついたわけではありません。自社の就業規則を一度も見ていないだけです。見ていないものを聞かれたので、世の中の一般的な規程からもっともらしい文章を組み立てた。それが返ってきた答えの正体です。

RAGとは何ですか？

質問に答えさせる前に社内の資料を検索させ、見つかった文章を根拠として渡してから回答させる仕組みです。Retrieval-Augmented Generationの略。日本語では検索拡張生成と呼びます。

名前は物々しいのですが、やっていることは単純です。試験にたとえるなら、記憶だけで解かせるのをやめて、教科書の該当ページを開いて渡してから解かせる形に変えたことになります。原型は2020年の論文Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasksで示された構成です。いまは社内文書を扱う多くの仕組みがこの形を取っています。

資料の側にも下準備が要ります。マニュアルや規程を適度な長さに区切り、意味の近さで探せる形に変換して保存しておく。質問のたびに関連する数個の断片を取り出せるのはこの準備があるからです。

なぜ回答の根拠を示せることが重要なのですか？

人が確かめられるからです。一般論としての「就業規則第◯条」ではなく、「2026年4月改定版の就業規則、17ページ」と実在の箇所を返せると、答えの正誤をその場で判定できます。

業務で使うAIの価値を決めるのは検証可能性です。根拠が出ないと、担当者は結局原本を開いて確認するので、手間はほとんど減りません。逆に根拠が出れば、疑わしいときだけ開けばよくなります。

OnFieldが想定例として整理している社内問い合わせAIも、この形です。社内資料をもとにAIが回答し、LINEや社内チャットから質問でき、回答根拠も確認できる。想定効果は問い合わせ対応時間を月40〜80時間の削減、同じ質問への対応を約50%削減としています。あくまで想定として扱う数字ですが、根拠つきで答えが返る形にすると、同じ質問が繰り返される回数そのものが減っていきます。

Columnバックオフィス業務はどこまでAIに任せられますか？　経理・総務・労務の線引きバックオフィス業務をどこまでAIに任せられるかを整理。経理の読み取りと突き合わせ、総務の社内問い合わせ、勤怠の催促それぞれの自動化パターンと、人が確定を担う線の引き方を中小企業の実務目線で解説します。2026.07.15　AI活用

どんな質問に向いていて、何が苦手ですか？

向くのは答えがどこかの文書に書いてある質問です。苦手なのは集計と意思決定です。

• 就業規則・社内規程についての問い合わせ対応
• 製品仕様やマニュアルにもとづく回答
• 過去の見積・提案書から条件を探す
• 議事録をたどって決定事項と経緯を引く
• 問い合わせ履歴を参照したサポート返信の下書き

1つめは新人が入るたびにベテランが同じ質問を受けている状態の解消です。2つめと3つめは探す時間そのものが仕事になっている領域。4つめに身に覚えのある方は多いはずです。「あの件、いつ誰が決めたか」を探して半日が溶けます。

一方で「今月の売上はいくらか」は数値の集計にあたるので、担当が違います。「この案件を受けるべきか」も同じです。材料は集められても決めるのは人です。ここを期待して導入すると、性能の問題ではないところで失望が生まれます。

精度が出ないとき、原因はAIと社内資料のどちらにありますか？

ほとんどの場合、社内資料の側です。検索で拾えなかった資料はAIにとって存在しないのと同じだからです。

• 最新版と旧版が同じフォルダに並んでいて、古いほうを拾ってしまう
• 紙をスキャンしただけのPDFで文字として読み取れない
• 判断の基準がベテランの頭の中にあり、そもそも文書として未整備
• ファイル名が「最終_修正版2」で、開かないと中身が分からない

1つめは最も多く、しかも自覚されにくい失敗です。答えが返ってくる以上、拾った資料が古いことに誰も気づきません。3つめは資料を整えるだけでは解決しません。文書にする作業のほうが先にあります。

ここを飛ばしてツールだけ入れると、精度が出ない原因がAIの性能に見えてしまい、別のツールを探す遠回りが始まります。見方を変えれば、最新版を1か所に集めて古い版を退ける作業は人間が探す時間も同時に減らします。手をつける価値が二重にある場所は社内にそう多くありません。

何から準備すればよいですか？

答えさせたい質問を10個書き出し、その答えが載っている資料だけを最新版に揃えます。全社の文書を整えてから始めようとすると、たいてい途中で息が切れます。

範囲が狭ければ数日で終わり、答えの精度もその場で確かめられます。うまくいった範囲だけを広げるほうが、結果として早く全社に届きます。

OnFieldは自社の経営でも同じ順番を取りました。会社の情報・ルール・記録をAIが読める1か所にまとめ、部門ごとのAI社員が指示書に従って動き、決定は理由とあわせて記録に残す。社内問い合わせに答えられる状態はこの置き場所を整えた副産物です。考え方は別の記事にまとめました。

ColumnAI経営OSとは何ですか？　AIツールを入れても会社が変わらない理由と組み直し方AI経営OSとは何か。AIツールを個別に導入しても業務が変わらない理由から解説します。会社の情報とルールと記録をAIが読める1か所にまとめる仕組みの中身、AIと人の線引き、OnFieldが自社で毎日動かしている運用と始め方までを1本にまとめました。2026.07.18　AI経営OS

導入後、運用で決めておくことは何ですか？

更新の担当者と、権限の追随です。規程が改定された日に参照される資料も差し替わるか。異動があったとき、見られる範囲は追いかけて変わるか。

入れた直後は正しく答えていたのに、半年後には信用を失う社内システムがあります。たいていこの2つが決まっていません。誰がいつ入れ替えるかを導入の設計と同時に決めておきます。扱うデータの機密度と、どの業務のどの質問に答えさせたいかが決まれば、仕組みの選び方は自然に絞られます。ツールの比較から入ると遠回りになりがちです。

ServiceオーダーメイドSaaS事業御社のオペレーションに合わせた業務システムを月額でご提供する

冒頭の有給休暇の質問に戻ります。正しく答えさせるために必要だったのはもっと賢いAIではありませんでした。最新の就業規則がAIから読める場所に置かれていること。ひとまずはそれだけです。