AIに任せてはいけない業務の見分け方

AIに任せてはいけない業務とは、誤りがそのまま損失や事故になり、人の確認を外せない業務のことです。AIを入れて事故が起きた会社の話を分解していくと、原因はほぼ同じ場所にたどり着きます。AIに任せたこと自体は問題ではありません。それまで人がやっていた確認を、いっしょに外してしまったことが原因です。

会計事務所の記帳業務が分かりやすい例です。領収書の読み取りは、以前からOCRで自動化されてきました。それでも、読み取られた数字が正しいかを目視で確認する工程は残っています。誰も「OCRを入れたから検算をやめよう」とは言わなかったはずです。AIでも、まったく同じ話です。

判断基準は「業務の種類」ではなく3つの問い

「経理はAIに任せていいか」「採用はどうか」という業務単位の問いには、答えが出ません。同じ経理でも、仕訳の下書きと決算数値の確定では話がまったく違うからです。次の3つで判定してください。

3つとも危険側に振れる業務が、いわゆる「任せてはいけない業務」です。たとえば、顧問先へ提出する税務書類の最終確認。社外に出て、後から気づきにくく、有資格者が責任を負います。ここは自動化の対象になりません。

一方、社内向けの会議メモの要約は3つとも安全側です。多少の誤りは読めば分かり、社外にも出ません。ここに二重チェックを置くのは、単なる無駄です。

士業の例で考える「境界線」

士業の業務は、この境界線が最もはっきりしています。記帳・データ入力の補助、申請書類の下書き、契約書・規程のチェック補助まではAIに任せられ、最終確認と判断、そして責任は有資格者が担う——という整理が実務上の標準になっています^[4]。表にするとこうです。

とくに注意が要るのが3行目です。生成AIは、存在しない条文番号や通達、判例を、自然な文章で出力することがあります（ハルシネーションと呼ばれます）^[1][2]。文章として整っているぶん、専門家でも一見して気づきにくいのです。AIが示した根拠は、必ず官公庁のサイトや原典で確認してください。士業の実務では、AIは下書きと情報整理の道具に位置づけ、最終的な解釈と適用の判断は有資格者が行うのが前提とされています^[1]。

この構造は士業に限りません。建設業なら数量と単価、医療・介護なら記録と請求区分、製造業なら図面寸法と規格値。業種ごとに「絶対に間違えられない数字」があり、そこには既存の確認工程がすでに存在しています。AIを入れるときに壊してはいけないのは、その工程です。

業種ごとの「絶対に間違えられない数字」

判定の考え方は同じでも、守るべき対象は業種で変わります。自社の場合はどこかを、最初に言葉にしてください。

右の列を見てください。どの業種も、AI以前から確認工程を持っています。新しく作る必要はありません。壊さなければそれで十分です。ここを理解すると、AI導入の仕事の性質が変わります。新しい統制を設計するのではありません。既存の統制を保ったまま、作業だけを置き換えます。難易度がまるで違います。

「AIに任せた」と言えるのはどこまでか

用語の使い方でも混乱が起きます。「経理をAIに任せた」という言い方は、実際には次のどれかを指しています。

• 領収書の読み取りを自動化した（作業の置き換え）
• 仕訳の候補をAIが出すようにした（判断の下書き）
• 仕訳の確定までAIが行い、人が見ていない（判断の委譲）

3つ目まで進んでいる会社は、実際にはほとんどありません。それでも「任せた」という言葉が使われるため、社内で認識がずれます。どの段階の話をしているのかを、毎回言葉にしてください。「読み取りは自動化したが、確定は人が見ている」と言えば、誤解の余地がなくなります。

社外への説明でも同じです。顧問先や取引先に「AIで処理しています」とだけ伝えると、判断まで委ねていると受け取られるおそれがあります。どこまで自動化し、どこを人が見ているかを説明できる状態にしておいてください。

判断を誤りやすい3つのグレーゾーン

明確に安全でも危険でもない業務が、実務では一番多くなります。相談の多い3つを挙げます。

採用の書類選考。 応募書類の要約や質問案の作成は任せられます。一方、合否そのものをAIに決めさせるのは避けてください。学習データの偏りが不公正な選別につながるおそれがあり、応募者に説明できない判断は企業側のリスクになります。AIは「読む時間」を減らす道具として使い、評価は人が行ってください。

顧客への回答文。 一次回答の下書きは有効ですが、送信前に人が読む工程は外さないでください。事実誤認をそのまま送ると、相手が誤解したまま話が進みます。よくある質問への定型回答に限って自動送信する、といった範囲の切り方が現実的です。

社内規程やマニュアルの作成。 ひな形づくりは得意領域です。ただし、自社の実態と合っているかは人しか確認できません。AIが作った規程は「一般的に正しい規程」であって、「自社で運用できる規程」ではないからです。

3つに共通するのは、問われているのがAIの出力の正しさではないことです。自社の事情や公正さに合っているかどうかが争点になります。そこは人の判断が要ります。

見分け方を1つ挙げると、「その判断を相手に説明できるか」です。採否の理由、回答の根拠、規程を採用した理由。相手に説明する必要がある判断は人が担い、説明が要らない作業は任せてよい、ということです。この線引きなら、業種を問わず使えます。

「人が監督する」は政府の指針にも書かれている

これは当媒体の主張というより、公的な指針にも沿った考え方です。総務省と経済産業省が策定した「AI事業者ガイドライン」（第1.1版・令和7年3月28日公表）は、AIの開発・提供・利用にあたって守るべき指針を示しており、そのなかに人間による判断の介在（人間中心・透明性・アカウンタビリティなど）が置かれています^[3]。

つまり「AIに任せたので責任の所在が曖昧になった」という状態は、社内ルール以前に、社会的に期待されている運用から外れます。確認工程を残すのは標準的な作法です。慎重すぎる態度ではありません。

なお同ガイドラインは特定の業務を禁止するものではありません。リスクに応じた対応を求める構成です。だからこそ、どの業務のリスクが高いかを自社で判定する必要があります。その判定が表1の3つの問いです。

「任せる」と「チェックを外す」を切り離す

ここが最も重要な考え方です。AI導入の設計は、次の2つを別々に決めてください。

1. どの作業をAIにやらせるか（作業の主体を変える）
2. どの確認を人が残すか（責任の所在は変えない）

多くの会社が、1を決めた瞬間に2も自動的に消してしまいます。そうではなく、当面は既存のチェックを一切外さないまま、作業だけAIに置き換えるのが正解です。

「それでは工数が減らないのでは」と思われるかもしれません。減ります。ゼロから作る作業と、出てきたものを確認する作業では、かかる時間がまるで違うからです。作成に60分・確認に10分かかっていた業務は、AI化すると作成5分・確認10分になります。確認を残したままでも、合計は半分以下になります。

チェックを外してよいかどうかは、3か月ほど運用してAIの誤りの傾向が分かってから判断してください。順番を逆にすると、事故が起きるまで気づけません。

その判断のために、最初の1か月は時間と誤りを記録しておいてください。やることは2つだけです。1件あたりの作成時間と確認時間を分けて書くこと、誤りが出た件数を数えることです。導入前と比べて合計時間がどれだけ減ったか、誤りが何件出たか。この2つが手元にあれば、確認を軽くしてよいかを数字で判断できます。「速くなった気がする」という感覚だけでは、社内の反対意見に何も答えられません。

確認の設計（軽くする工夫と、外していく順序）

確認の負担を軽くする4つの工夫

チェックを残すと決めたうえで、その負担自体は下げられます。

• 原本と並べて確認できる形で出させる。 「読み取り元の記載箇所を併記してください」と指示するだけで、突合の速度が上がります
• 根拠を必ず出させる。 「参照した条文と、その出典URLを明記してください」。出典が示せない主張は、その時点で疑ってよい
• 確認対象を数字と固有名詞に絞る。 文章表現の細部まで見直すと、いくら時間があっても終わりません。誤ると損害が出るのは、金額・日付・数量・氏名・条文番号です
• AIに自己点検させてから人が見る。 「上の出力のうち、事実確認が必要な箇所を列挙してください」と続けて指示すると、確認すべき場所が絞り込まれます

4つ目の負担軽減がいちばん大きくなります。人の目を最後に置く前提は変えずに、目を向ける場所だけを機械に絞り込ませます。確認を残したまま作業時間を減らせます。

もう1つ、続けるほど差がつくのが記録です。誤りが出たら、その内容を1行でメモに残してください。「日付を前年のものにした」「取引先名を似た社名と混同した」。この記録が5件も貯まれば、自社のAIがどこで間違えるかの傾向が見えます。傾向が見えれば、確認する場所を絞れます。逆に記録がないと、いつまでも全項目を見続けることになります。

確認を軽くしていく順序

「当面は確認を外さない」と書きましたが、いつまでも同じ重さで続ける必要はありません。段階を踏んで軽くしていきます。

第1段階を飛ばすと、第2段階の「絞る対象」が分かりません。だから最初は全部見ます。逆に、3か月経っても全部見続けているなら、それは記録を取っていない証拠です。どこで何回間違えたかを記録しておくことが、確認を軽くする唯一の根拠になります。

第3段階まで来ても、社外に出る数値と法令の条番号は外しません。ここは頻度ではなく損害の大きさで決まる部分です。

まとめ

判断に迷ったら、次の1行に戻ってください。その業務に、AI導入前から人のチェック工程があったか。あったなら、それは残します。なかったなら、AIに任せて構いません。

• 任せてよい: 下書き、要約、候補出し、分類、整理
• 任せてはいけない: 最終判断、法令解釈、責任をともなう確定、社外に出る数値の確定

AI導入で失敗する会社は、危ない業務に手を出したから失敗するのではありません。安全な業務でも、確認の設計を省いたから失敗します。逆に言えば、確認工程を先に決めておけば、たいていの業務は試してよいということです。

この順序で考えると、「AIを入れるべきか」という問いは消えます。残るのは「どの作業を置き換え、どの確認を残すか」という設計の問いだけです。そこまで具体化できれば、あとは試して測るだけになります。この設計を誰が決めるべきかはAI導入の進め方｜社長から始めないと浸透しない理由に書きました。税理士事務所での具体的な線引きは税理士事務所のAI導入に、確認工程を残したまま業務ごと外に出す選択肢は経理BPOの相場と選び方にまとめました。

自社の業務のどこから着手すべきか整理したい方はAI活用度診断へ。業務ごとの線引きを一緒に設計したい方はAI導入コンサルティング、まず話を聞きたい方は無料相談をご利用ください。

※本記事は2026年8月時点の一般的な整理です。法令や資格に関わる業務の取り扱いは、所属団体の指針や監督官庁の見解をご確認ください。