社内AIで資料が見つからない・答えないのはなぜ？
検索前から確認したい6つの原因

まず「検索できていない」のか「回答がおかしい」のかを分ける

社内AIが答えられないときは、回答文だけを見るより、先に「必要な資料や箇所を検索できているか」を確認した方が原因を切り分けやすくなります。

公開レビューでも、正式名称で聞かないと回答が生成されないケースや、回答のために学習データ側を工夫したという声があります。RAGでは、検索段階で必要な情報を拾えなければ、その後のAIが高性能でも正しい回答を作りにくくなります。

原因1：資料が検索対象に入っていない

「アップロードしたつもり」でも、対象のナレッジベースに登録されていない、解析が完了していない、古いファイルだけが残っている、といった状態では検索できません。

まず、答えの根拠になる資料そのものが現在の検索対象に含まれているかを確認します。

確認すること

• 対象ファイルが正しい場所へ登録されているか
• アップロード・解析が正常に完了しているか
• 最新版へ差し替えたつもりで旧版だけ残っていないか

原因2：権限や検索範囲の外にある

資料自体は登録されていても、質問している利用者が閲覧できない範囲にある場合、その資料を回答根拠として使えないことがあります。部署別・用途別にワークスペースやナレッジベースを分けている場合は、検索先の違いも確認します。

このケースでは、検索精度を調整する前に「誰が、どの範囲へ質問しているか」を見る必要があります。

原因3：質問と資料で言葉が違う

社内では、同じものに複数の呼び方が使われます。たとえば正式名称が「経費精算申請」で、社員は「立替」「精算」「経費」と呼んでいる場合です。

製品名の略称、旧社名、部署独自の呼び方などが混ざると、質問と資料の表現がずれて検索しにくくなることがあります。

対策

• 実際に社員が使う言い回しで質問テストをする
• 略称・旧称・社内用語を把握する
• 必要に応じて検索設定や質問理解の設定を調整する

原因4：検索方式が資料に合っていない

意味の近さで探すベクトル検索は自然な質問に強い一方、製品型番、社名、規程番号のような固有名詞ではキーワード検索が有効なことがあります。

そのため、社内文書AIではキーワード検索と意味検索を組み合わせるハイブリッド検索や、検索結果を並べ直すRerankなどを使って調整することがあります。

原因5：長い資料の「切り方」が合っていない

RAGでは、多くの場合、PDFやWordをそのまま丸ごとAIへ渡すのではなく、小さな単位に分割して検索します。この単位を一般にチャンクと呼びます。

たとえば「申請期限」と「例外条件」が別々のチャンクに分かれてしまうと、片方だけ検索されて不完全な回答になることがあります。逆に一つのチャンクが長すぎても、目的の情報を見つけにくくなることがあります。

原因6：資料の解析や元データに問題がある

画像中心のPDF、複雑な表や結合セルが多いExcelなどは、文章中心の資料より内容を取り出しにくい場合があります。また、古い版と新しい版が混ざっている、資料同士で内容が矛盾している、そもそも答えが資料に書かれていない場合も、AIだけでは解決できません。

この場合は「AI用に全資料を書き直す」のではなく、実際に回答できない資料だけを特定して確認する方が現実的です。

「もっと高性能なAIに変える」前に確認すること

1. 答えの根拠になる資料が検索対象へ入っているか
2. 質問者の権限・検索範囲からその資料を参照できるか
3. ファイルが正しく解析されているか
4. 社員が実際に使う言い方で正しい箇所を検索できるか
5. 検索結果は正しいのに回答だけがおかしいのか

正しい資料が検索できているのに回答だけがおかしい場合に、初めてAIモデルやプロンプト側の調整を疑う、という順番にすると原因を切り分けやすくなります。

ここを社員自身にやらせると、社内AIの管理業務が増える

この調整には、AIの専門研究までは必要ありません。ただし、検索結果を確認したり、文書を再解析したり、設定を変えて同じ質問を試したりする作業は発生します。

セルフサービス型の社内AIでは、この役割を社内の管理者が持つことがあります。AI基盤の運用を新しい社内業務にしたくない場合は、「AIを導入して仕事を減らしたかったのに、AIを調整する仕事が増えた」という状態にならないよう、誰が調整を担当するかを先に決めておくことが重要です。

Nexfila AIでは基本的な検索・AI設定の調整も管理側で行う

Nexfila AIは、顧客自身で資料を登録して使えるセルフサービス型の社内ナレッジAIです。共通AI基盤の標準設定・保守・アップデートはNexfilaが担当します。

Nexfila AIでは、検索方式・文書分割・Rerankなどを標準設定としてあらかじめ用意し、利用する側がRAGの設定を覚えることを前提にしません。個別の手作業チューニングを常時行うサービスではなく、多くの会社で共通利用できる設定を改善していく設計です。

ただし、AIが100%正しい回答を返すことを保証するものではありません。重要な判断では、回答と一緒に示される元資料を確認する運用が必要です。

社内AIを比較するときの確認ポイント

• 資料を入れれば終わりなのか、初期調整まで含まれるのか
• 回答できない質問が出たとき、誰が原因を確認するのか
• 検索方式・Rerank・文書分割などを調整できるか
• 資料を差し替えたとき再解析できるか
• 回答の根拠となった資料を利用者が確認できるか

参考にした公開情報

• ITreview「RICOH Chatbot Service」レビュー：正式名称でない質問への回答
• ITreview「RICOH Chatbot Service」レビュー：学習データの調整
• DeNA Engineering：社内AIヘルプデスクのRAG精度改善
• LIFULL：社内AIボットのRAG検索精度を上げる工夫
• ソフトバンク：社内規程RAGのデータ構造化事例

「答えない原因」を確認するだけでなく、導入前に実際の質問で試したい場合は、無料CSV20問付きのPoC評価チェックリストが使えます。

誤回答が見つかった後の受付・修正・再テストは社内AIの誤回答報告と無料記録表にまとめています。

回答できなかった質問から不足資料と改善順を決める方法は社内AIの未回答質問管理と無料CSVで説明しています。