AIに任せてはいけない業務の見分け方｜人のチェックを外さない

AIを入れて事故が起きた会社の話を分解していくと、原因はほぼ同じ場所にたどり着きます。AIに任せたこと自体ではなく、それまで人がやっていた確認をいっしょに外してしまったことです。

会計事務所の記帳業務を思い浮かべると分かりやすい。領収書の読み取りは、以前からOCRで自動化されてきました。それでも、読み取られた数字が正しいかを目視で確認する工程は残っています。誰も「OCRを入れたから検算をやめよう」とは言わなかった。AIでも、まったく同じ話です。

判断基準は「業務の種類」ではなく3つの問い

「経理はAIに任せていいか」「採用はどうか」という業務単位の問いには、答えが出ません。同じ経理でも、仕訳の下書きと決算数値の確定では話がまったく違うからです。次の3つで判定してください。

3つとも危険側に振れる業務が、いわゆる「任せてはいけない業務」です。たとえば、顧問先へ提出する税務書類の最終確認。社外に出て、後から気づきにくく、有資格者が責任を負う。ここは自動化の対象になりません。

一方、社内向けの会議メモの要約は3つとも安全側です。多少の誤りは読めば分かり、社外にも出ない。ここに二重チェックを置くのは、単なる無駄です。

士業の例で考える「境界線」

士業の業務は、この境界線が最もはっきりしています。整理するとこうなります。

とくに注意が要るのが3行目です。生成AIは、存在しない条文番号や通達、判例を、自然な文章で出力することがあります（ハルシネーションと呼ばれます）。文章として整っているぶん、専門家でも一見して気づきにくい。AIが示した根拠は、必ず官公庁のサイトや原典で確認してください。

この構造は士業に限りません。建設業なら数量と単価、医療・介護なら記録と請求区分、製造業なら図面寸法と規格値。業種ごとに「絶対に間違えられない数字」があり、そこには既存の確認工程がすでに存在している。AIを入れるときに壊してはいけないのは、その工程です。

判断を誤りやすい3つのグレーゾーン

明確に安全でも危険でもない業務が、実務では一番多い。相談の多い3つを挙げます。

採用の書類選考。 応募書類の要約や質問案の作成は任せられます。一方、合否そのものをAIに決めさせるのは避けてください。学習データの偏りが不公正な選別につながるおそれがあり、応募者に説明できない判断は企業側のリスクになります。AIは「読む時間」を減らす道具として使い、評価は人が行う。

顧客への回答文。 一次回答の下書きは有効ですが、送信前に人が読む工程は外さないでください。事実誤認をそのまま送ると、相手が誤解したまま話が進みます。よくある質問への定型回答に限って自動送信する、といった範囲の切り方が現実的です。

社内規程やマニュアルの作成。 ひな形づくりは得意領域です。ただし、自社の実態と合っているかは人しか確認できません。AIが作った規程は「一般的に正しい規程」であって、「自社で運用できる規程」ではないからです。

3つに共通するのは、AIの出力が正しいかどうかではなく、自社の事情や公正さに合っているかどうかが問われる点です。そこは人の判断が要る、と考えてください。

「任せる」と「チェックを外す」を切り離す

ここが最も重要な考え方です。AI導入の設計は、次の2つを別々に決めてください。

1. どの作業をAIにやらせるか（作業の主体を変える）
2. どの確認を人が残すか（責任の所在は変えない）

多くの会社が、1を決めた瞬間に2も自動的に消してしまいます。そうではなく、当面は既存のチェックを一切外さないまま、作業だけAIに置き換えるのが正解です。

「それでは工数が減らないのでは」と思われるかもしれません。減ります。ゼロから作る作業と、出てきたものを確認する作業では、かかる時間が桁違いだからです。作成に60分・確認に10分かかっていた業務は、AI化すると作成5分・確認10分になります。確認を残したままでも、半分以下になる。

チェックを外してよいかどうかは、3か月ほど運用してAIの誤りの傾向が分かってから判断してください。順番を逆にすると、事故が起きるまで気づけません。

確認の負担を軽くする4つの工夫

チェックを残すと決めたうえで、その負担自体は下げられます。

• 原本と並べて確認できる形で出させる。 「読み取り元の記載箇所を併記してください」と指示するだけで、突合の速度が上がります
• 根拠を必ず出させる。 「参照した条文と、その出典URLを明記してください」。出典が示せない主張は、その時点で疑ってよい
• 確認対象を数字と固有名詞に絞る。 文章表現の細部まで見直すと時間が溶けます。誤ると損害が出るのは、金額・日付・数量・氏名・条文番号です
• AIに自己点検させてから人が見る。 「上の出力のうち、事実確認が必要な箇所を列挙してください」と続けて指示すると、確認すべき場所が絞り込まれます

4つ目は特に効きます。人の目を最後に置く前提は変えず、目を向ける場所だけを機械に絞り込ませる。この形なら、確認を残したまま実務が回ります。

まとめ

判断に迷ったら、次の1行で足ります。その業務に、AI導入前から人のチェック工程があったか。あったなら、それは残す。なかったなら、AIに任せて構いません。

• 任せてよい: 下書き、要約、候補出し、分類、整理
• 任せてはいけない: 最終判断、法令解釈、責任をともなう確定、社外に出る数値の確定

AI導入で失敗する会社は、危ない業務に手を出したから失敗するのではありません。安全な業務でも、確認の設計を省いたから失敗します。逆に言えば、確認工程を先に決めておけば、たいていの業務は試してよいということです。この設計を誰が決めるべきかはなぜAI導入は「社長から」始めないと社内に浸透しないのかに書きました。

自社の業務のどこから着手すべきか整理したい方はAI活用度診断へ。業務ごとの線引きを一緒に設計したい方はAI導入コンサルティング、まず話を聞きたい方は無料相談をご利用ください。

※本記事は2026年8月時点の一般的な整理です。法令や資格に関わる業務の取り扱いは、所属団体の指針や監督官庁の見解をご確認ください。