「嘘をつけないAI」は作れるのか？──ハルシネーションが起きる本当の理由と、設計で塞ぐ方法

なぜ穴埋めするのか。AIは訓練の仕組み上、「空欄で出すとゼロ点、当てずっぽうなら点が入るかもしれない」試験を受け続けた受験生のように育っているからです。AIの開発元自身の研究でも、そう説明されています。

この不安は、あなただけのものではありません。年商500億円以上の大企業で生成AI導入に携わった218名への国内調査（2024年10月）では、活用の不安の最多がこの作り話への不安で、59.2%にのぼります。

そしてPoCが止まったのは、判断が悪かったからでも、AIがポンコツだったからでもなく、 穴埋めの余地を大量に渡す構成だった からです。

指示で消えない理由は、渡している材料の側にあります。社内文書AIでよくあるのは、文書を機械的に細切れにして、質問に似た断片を数枚拾ってAIに渡す方式。用語の揺らぎで正しい断片が拾えない、細切れにした瞬間に文脈が切れる、文書が増えるほど似て非なるノイズが増える──この3つで、穴埋めの余地を量産します。

正しい断片が来ないとき、AIは黙りません。手元に残った断片と一般知識で、穴埋めを始めます。例の受験生です。

念のため書き添えると、似た文書を探す技術そのものは今も欠かせない部品です。問題は技術ではなく、細切れの断片「だけ」を渡す構成のほうにあります。

バラのページの山が、目次と索引のついた一冊になるイメージです。穴埋めに走る前に、正しい答えの載った場所へ一直線にたどり着ける状態を先に作ります。

ただ、ここで必ず壁にぶつかります。資料の書き方・フォーマットの文化は、会社ごとに全く違うということ。汎用の整理テンプレートは、作れないのです。

だから私たちは、 その会社の資料に最適な構造化のやり方自体を、資料を分析して設計するAIエージェント を開発しました。規程・仕様書・図面・報告書と、分野の全く異なる資料を分析し続けて辿り着いた形です。

• 関門1：回答は、整理済みナレッジに書いてあることだけから組み立てる。一般知識で穴埋めさせない
• 関門2：数値・型番など一字違いが致命傷の情報は、元データと照合する。レシートと家計簿の突き合わせ
• 関門3：全回答に「どの資料のどこに基づくか」の根拠を添え、書かれていないことは「ありません」と答える

3つ目には、一段深い前提があります。「出典を付けさせれば安心」ではない、ということ。AIは出典自体を作り話することがあり、米国では、AIが生成した実在しない判例を確認せずに裁判所へ提出した弁護士が、実際に制裁を受けました。

だから根拠は、AIに「添えさせる」のではなく、 整理済みナレッジ側から機械的に引きます 。「ありません」と言い切れるのも、全体を整理し終えているから。探した上で書かれていない、と言えるわけです。

そもそもAIは、計算が苦手です。「次に来そうな文字を確率で選ぶ」方式で答えているので、9.11と9.9の大小のような単純な比較すら間違えることがあります。数値の検算は、AIではなくプログラムの仕事です。

この分担は、お財布にも効きます。問い合わせのたびに重いAIを回さないので、 使うほど整理は進んで精度が上がり、継続コストは下がる 構造になります。AIを全部に使わないことが、いちばん賢いAIの使い方。私は本気でそう考えています。

机上の構想ではありません。この仕組みは製造業の実際の設計文書で検証済みで、根拠付きの回答だけでなく、図面のレビュー補助や設計書のドラフト生成まで動くところを確認しています（2026年8月時点）。

「AIは作り話をするから使えない」で止まった構想は、まだ捨てなくて大丈夫です。あなたの失望の原因は、AIの性格ではなく構成のほうにあったのですから。