ハルシネーション対策｜誤りを前提に運用する

生成AIが、実在しない条文や存在しない製品名を、自信たっぷりに答えてくることがあります。これがハルシネーションです。ハルシネーション対策で最初に受け入れるべきなのは、この現象をゼロにできないという点です。

ゼロにできない以上、対策は「起きない仕組み」ではなく「起きても被害が出ない仕組み」になります。順に組み立てます。

このガイドラインは総務省と経済産業省が共同で公表しているもので、法的な拘束力を持つ規制ではありません^[2][3]。罰則を伴う規制とは性質が異なり、事業者が自主的に参照する指針という位置づけになります。とはいえ、社内ルールを作るときの土台としては使い勝手がよく、「国の指針にこう書かれている」という説明は社内の合意を得やすくなります。

なぜ誤るのか

生成AIは、次に来る言葉としてもっともらしいものを選ぶ仕組みで動いています。事実を調べて答えているわけではありません。

そのため、次の場面で誤りが出やすくなります。

最後の行が、いちばん危険です。「〇〇法第△条には何と書いてありますか」と聞くと、その条文が存在しなくても、それらしい内容が返ることがあります。質問の前提を疑わないためです。

生成AIを何らかの形で業務利用している日本企業は86.4%に達しました^[4]。それだけ多くの会社が、この誤りと付き合っていることになります。付き合い方に差が出ます。

段階1：聞き方を変える

指示の書き方だけで、誤りは減ります。3つ実行してください。

1つ目は、根拠を示させることです。「その根拠となる条文名とURLを添えてください」と付けます。根拠を出せない場合に「分かりません」と返る確率が上がります。

2つ目は、分からないときの答え方を指定することです。「確実でない場合は『不明』と答えてください」と最初に書きます。これを書かないと、推測が断定の形で返ってきます。

3つ目は、材料を渡すことです。質問だけを投げるより、資料を貼り付けて「この資料の範囲で答えてください」と指示するほうが、誤りが大きく減ります。手元にある就業規則や契約書を貼るだけで結果が変わります。

プロンプトの基本的な書き方はChatGPTのプロンプト例の記事にまとめました。

聞き方の実例

同じことを聞くにも、書き方で結果が変わります。

悪い例。「人材開発支援助成金について教えて」。範囲が広すぎて、一般論と推測が混ざった答えが返ります。

よい例。「添付した厚生労働省のパンフレットの範囲で、事業展開等リスキリング支援コースの計画届の提出期限を教えてください。書かれていない場合は『記載なし』と答えてください」。範囲と、答えられないときの振る舞いが指定されています。

違いは、材料と制約の有無だけです。難しい書き方の技術は要りません。手元の資料を渡し、その範囲で答えるよう指示します。この2つを守るだけで、実務で困る誤りは大きく減ります。

制度や法令のように改正がある分野では、この差がはっきり出ます。学習した時点の古い制度名で答えてくることがあるためです。補助金の名称変更のような例では、必ず一次情報を渡してください。

段階2：出典を出させて、自分で開く

根拠を示させるだけでは足りません。示された出典が実在するかを、人が開いて確かめる工程が要ります。

出典そのものが生成される場合があるためです。実在しないURL、存在しない書籍名、架空の統計。形式が整っているぶん、見た目では判別できません。

確認は簡単です。示されたURLをクリックし、そこに書いてある内容を目で確かめます。それだけです。開けないURLが出てきたら、その回答全体を疑ってください。

社内で使うときのルールとしては、次の一文で足ります。「社外に出す文書に数値や制度を書くときは、出典を1つ開いて確認したうえで、確認した人の名前を残す」。

段階3：確認工程を設計する

対策の本体はここです。誤りが起きる前提で、業務の流れに確認を組み込みます。

社内向けと社外向けで、確認の厚みを変えてください。すべてに同じ確認をかけると、削減した時間が確認で消えます。誤りが外に出るかどうかで線を引くのが実務的です。

数値の計算については、そもそも任せないという選択が有効です。表計算ソフトや業務システムで計算し、AIには文章の作成だけを任せます。この分担にすると、金額の誤りは構造的に起きません。

段階4：任せる業務を選び直す

3段階まで実施しても誤りが残るなら、その業務は向いていません。

向かない業務の共通点は2つです。正解が1つしかないこと。そして、誤りに人が気づけないことです。

気づけない誤りが最も危険です。たとえば、100件の取引先リストから条件に合う先を抽出させたとき、抜け落ちた1件に誰も気づきません。出力を見ても、そこに無いものは見えないためです。

このような業務では、AIの出力と元データの件数を突き合わせる工程を足すか、そもそも別の方法を使ってください。業務の見分け方はAIに任せてはいけない業務の記事で詳しく扱いました。

RAGという方法の位置づけ

社内文書を検索して、その内容にもとづいて回答させる仕組みをRAGと呼びます。国のAI事業者ガイドライン（第1.2版）でも、RAG等の活用によりハルシネーションの抑制と出力過程・根拠の透明性向上が期待されるとされています^[1][2]。

有効な方法です。ただし2点、注意が要ります。

1つ目。検索できる範囲の外については、誤りが残ります。社内文書に書かれていない事柄を聞けば、従来どおり推測が返ります。「社内文書の範囲で答え、書かれていない場合は不明と答える」という指示を併せて設定してください。

2つ目。元の文書が古ければ、古い答えが返ります。就業規則を改定したのに、旧版が検索対象に残っていると、旧版の内容が正しい答えとして返ります。文書の更新と、検索対象からの削除をセットで運用してください。

中小企業がRAGの構築から始める必要はありません。まずは資料を会話に貼り付ける運用で足ります。件数が増えて手間になった段階で、仕組み化を検討してください。

複数のAIに同じことを聞く

もう1つ、実務で使える方法があります。同じ質問を2つ以上のサービスに投げ、答えが一致するかを見ることです。

一致すれば、確度は上がります。食い違えば、そこが確認すべき箇所だと分かります。どちらが正しいかは分かりませんが、疑うべき箇所は分かります。

重要な調べものに限れば、手間は許容範囲です。2つのタブを開いて同じ文を貼るだけで済みます。

ただし、これは確認の代わりにはなりません。両方が同じように誤ることもあります。学習の元になった情報が同じなら、同じ誤りが出ます。あくまで、目視確認の優先順位を決めるための方法として使ってください。

社内で決める3つのルール

導入時に決めることを挙げます。

1つ目は、社外に出す前に人が確認することです。例外を作らないでください。「急ぎだから」で確認を飛ばした1件が事故になります。

2つ目は、確認した人の名前を残すことです。誰が確認したかが分かる状態にすると、確認の質が上がります。責任を追及するためではなく、確認を形式にしないためです。

3つ目は、誤りが出たら記録することです。どういう質問で、どんな誤りが出たのか。この記録が3か月たまると、自社で起きやすい誤りの型が見えてきます。そこに合わせて指示文を直せば、再発が減ります。

情報の取り扱いを含めた社内ルールの決め方は生成AIの情報漏洩対策の記事にまとめました。

経営者が理解しておくこと

技術の詳細を知る必要はありません。ただし次の1点だけは、社長が理解していないと社内が混乱します。

誤りは、使い方が下手だから出るのではありません。仕組み上、必ず一定の割合で出ます。だからこそ確認工程が要ります。

この理解がないと、誤りが出たときに「使い方が悪い」と担当者を責めることになります。責められた担当者は、AIの使用をやめます。あるいは、誤りが出たことを報告しなくなります。どちらも、会社にとって悪い結果です。

正しい対応は、確認工程が機能していたかを見ることです。誤りが確認で止まったなら、その運用は成功しています。外に出てしまったなら、直すべきなのは工程のほうです。

社内への伝え方も決めておいてください。「AIは間違えます。だから確認します。確認したうえで使います」。この3文を全社に共有するだけで、現場の迷いが減ります。禁止でも野放しでもない、第3の姿勢がはっきりします。

AX総合研究所のAI研修では、こうした確認工程の設計まで含めて手順を作ります。AI導入コンサルティングでは、業務ごとの切り分けからご一緒します。

3か月で運用に落とす

進め方を書きます。

1か月目は、対象業務を1つ選び、確認工程を紙に書きます。誰が、何を、いつ確認するか。この3つだけです。書けたら、そのとおりに運用します。

2か月目は、誤りの記録を集めます。出た誤りを1件ずつ、質問文と一緒に残してください。10件たまると、自社で起きやすい型が見えてきます。

3か月目は、記録をもとに指示文を直します。「制度名は必ず一次情報を添付する」「金額の計算はさせない」といった項目が、自社の指示文に足されていきます。

この3か月を経た会社と、経ていない会社とで、その後の広がり方が変わります。誤りへの対処が定まっていれば、次の業務に広げるときに議論をやり直さずに済むためです。

まとめ

ハルシネーション対策は、4段階で組み立ててください。聞き方を変え、出典を開いて確かめ、業務に確認工程を組み込み、向かない業務は外します。

RAGは有効な抑制策として国のガイドラインにも挙げられていますが^[1]、検索の範囲外については誤りが残ります。仕組みより先に、確認工程の設計をしてください。

自社の業務でどこに確認を置くべきかは、無料相談でご一緒に決められます。現在地の確認はAI活用度診断からどうぞ。

※本記事の内容は2026年8月時点の公開情報にもとづきます。AI事業者ガイドラインは改定されることがあるため、実務では最新版をご確認ください。