#05：AIに仕事を任せる前に、「任せてはいけないこと」を決めていますか？
AIが「助言」から「判断・実行」へ進むと、サービス現場で何が変わるのか
生成AIをフィールドサービスで使う場面は、少しずつ広がっています。
過去の修理履歴を探す。
マニュアルから必要な情報を見つける。
故障原因の候補を示す。
必要な部品や確認項目を提案する。
この段階であれば、AIは基本的に人の判断を助ける存在です。
では、その先はどうでしょうか。
「この部品を交換した方がよい」と提案するだけではなく、交換すると決める。
「この案件は訪問不要」と提案するだけではなく、訪問をキャンセルする。
「専門家へエスカレーションした方がよい」と知らせるだけではなく、自動的に案件を振り分ける。
さらに、
保証対象かどうか
どの程度の値引きを認めるか、
といった判断までAIが行う。
ここまで来ると、考えるべきことはAIの精度だけではありません。
AIに、どこまで決める権限を渡すのか。
そんなことを考えさせられた記事がありました。
Future of Field Serviceが2026年9月に公開した、Konecranes社でアフターサービスに携わる一方、CybersecurityやAI Defenseについても教えているDr. Aymen Gatri氏へのインタビューです。
Gatri氏は、サービス領域でのAI活用を大きく三つの段階で捉えています。
最初は、ナレッジ検索や一次サポート、意思決定支援。
次に、AI Agentが一定の判断を行い、自律的に動く段階。
さらにその先には、運用や収益に影響する複雑なサービス判断までAIが担う段階があります。
同氏が指摘しているのは、AIが人を支援するだけでなく、自ら判断して動き始めたところから、リスクの性質が変わるという点です。
誰が責任を持つのか。 どのデータまで見せてよいのか。 間違った判断を誰が止めるのか。
こうした問題が、一気に現実的になります。
（なお、この記事はAI導入の効果を検証した研究ではなく、実務者へのインタビューをもとにした論考です。またFuture of Field ServiceはIFS社との提携を明記しています。その前提で読む必要はあります。それでも、フィールドサービスでAI Agentを考えるうえで、重要な問いを含んでいると思います。）「提案する」と「決める」は、やはり違う
例えばAIが、過去の故障履歴やセンサーデータを見て、
「ポンプAの交換を推奨します」
と技術者に伝えたとします。
技術者はその理由を確認し、
実機の状態を見て、
必要なら技術支援にも相談し、
最後は自分で交換するかどうかを決める。
この場合、AIはあくまで判断材料を提供しているだけです。
ではAI Agentが、
「ポンプAは交換が必要」と判断し、
交換部品を自動で発注し、
技術者を手配し、
顧客へ訪問日時まで通知する。
そこまで行ったらどうでしょうか。
もし、
その判断が間違っていたら。
交換する必要のない高額部品を発注してしまったら。
逆に、
本来交換すべき部品を交換せず、設備が停止してしまったら。
保証対象ではない案件を保証扱いにしたら。
重要顧客へのエスカレーションを見送ってしまったら。
たとえAIの回答精度が99％だったとしても、残り1％の誤りがどの業務に影響するかによって、リスクはまったく違います。
つまり、見るべきなのは、
AIがどれだけ賢いかだけではなく、そのAIに何をさせるのか。
ということです。
人には「ここまで」と決めるのに、AIには決めなくてよいのか
少し違う角度から考えてみます。
通常、人に仕事を任せる時には、ある程度の権限の線引きがあります。
新人技術者が自分で判断してよい範囲。
一定金額を超える部品交換には上司の承認が必要。
安全に関わる場合は、作業を止めて技術支援へ連絡する。
契約外の作業なら、営業やサービス責任者に確認する。
特別値引きには決裁が必要。
すべてが完璧に文書化されているわけではなくても、
「ここまでは自分で決めてよい。ここから先は相談する」
という考え方はあります。
では、AI Agentはどうでしょうか。
「AIならかなり正確だから」
「自動化できるなら任せてしまおう」
と、どこまで任せるかを曖昧にしたまま、処理だけを自動化してしまわないでしょうか。
第6章では、現場裁量について、判断材料、相談先、エスカレーションルートまで含めて設計する必要があると書きました。
現場裁量とは、好きなように判断してよいということではありません。
どこまで自分で判断し、どこから支援を求めるのかを明確にすることです。
この考え方は、AIにもそのまま当てはまると思います。
人に対して当たり前に行っている権限設計を、AIにも行う必要があります。
AIガバナンスを、IT部門だけの仕事にしてよいのか
AIガバナンスと聞くと、
セキュリティ
個人情報
アクセス権限
データの持ち出し
利用可能なAIサービス
といった、IT部門や法務部門のテーマを思い浮かべることが多いかもしれません。
もちろん、それらは重要です。
ただ、サービスAIが業務の中へ深く入ってくると、それだけでは足りません。
例えば、
「この設備には訪問しなくてよい」
という判断なら、サービス品質やSLAに関わります。
「この部品を交換する」
なら、品質保証や設計部門にも関係します。
「保証対象として処理する」
なら、契約や収益性の問題になります。
「顧客設備へ遠隔操作を行う」
なら、安全面や顧客承認の問題も出てきます。
Gatri氏も、AI Agentがサービス判断や値引き、エスカレーションなどを自律的に行うようになると、その判断が財務や顧客関係に直接影響する可能性を指摘しています。
ここまで来ると、AIガバナンスは単なるITルールではありません。
サービスの運営そのものを、どう設計するかという問題です。
誰が、どの判断に責任を持つのか。
どこまでAIに任せるのか。
どの条件なら人の承認を入れるのか。
異常時には誰が止められるのか。
こうしたことを決めるには、ITだけでなく、サービス責任者、品質、設計、法務、営業なども関わる必要があります。
第2作では「AIは判断を支える」と書いた
拙著第2作の第7章「テクノロジーは、制約を外すために使う」では、AIやFSM、モバイルを、
現場が判断しやすくなるための手段
として捉えました。
過去履歴を見せる。
類似事例を探す。
確認すべき項目を示す。
交換部品の候補を出す。
適切なエスカレーション先を案内する。
こうした使い方であれば、AIは現場の判断を助けてくれます。
一方で、拙書では、
判断基準や支援体制、ナレッジ更新の仕組みがあって初めて、テクノロジーは現場判断を支える力になる
とも書きました。
今回の記事を読んでいて感じたのは、その先の問いが出てきたということです。
これまでは、
「AIを使って、人がより良く判断できるようにするにはどうするか」
を考えてきました。
これからは、
「AI自身が判断するなら、どこまで任せてよいのか」
も考えなければならない。
AIの進化によって、テクノロジー活用の論点が、一段変わり始めているように思います。
すべてを自動化する必要はない
AI Agentという言葉を聞くと、
「いずれ全部AIがやるようになる」
というイメージを持つことがあります。
でも、サービス業務のすべてを同じように自動化する必要はありません。
例えば、
過去の作業履歴を要約する。
類似事例を探す。
訪問前に確認すべき項目を提示する。
こうした仕事は、比較的AIに任せやすいでしょう。
一方で、
安全に関わる判断
高額部品の交換
保証判定
契約条件の例外適用
顧客設備への直接介入
などは、間違えた時の影響が大きくなります。
大切なのは、
「AIに何ができるか」ではなく、「間違えた時の影響を考えると、どこまで任せられるか」
で線を引くことだと思います。
同じAIでも、
助言までにする。
人の承認を入れて実行する。
一定の条件の中だけ自動実行する。
完全に自律させる。
では、必要な統制は違います。
AIの技術的な能力から考えるのではなく、業務上のリスクから、自動化の範囲を決める。
その方が、実際のサービス現場には合っているのではないでしょうか。
人がAIの判断を覆したら、それで終わりか
もう一つ、考えておきたいことがあります。
AIが、
「この案件は訪問不要」
と判断した。
ところが経験豊富なサービス責任者が、
「この顧客の場合は、訪問した方がいい」
と判断を覆した。
結果として、その人の判断が正しかった。
ここで、
「今回は人が修正したから問題なし」
で終わってしまうと、AIは次回も同じ判断をするかもしれません。
なぜ人は判断を覆したのか。
AIが見ていなかった情報は何だったのか。
判断ルールを変える必要があるのか。
その顧客だけの特殊条件だったのか。
必要なナレッジが不足していたのか。
そこまで見て、次の判断へ戻す必要があります。
これは拙著第8章で書いた、改善を一度きりのプロジェクトにせず、繰り返す仕組みにするという考え方にもつながります。
現場の状況も、制約も変わります。
標準やナレッジも、それに合わせて更新されなければなりません。
AI Agentも同じです。
導入した時点で完成ではありません。
人が修正した判断、顧客からのクレーム、想定外の結果を拾い、
AIの判断基準そのものを更新していく仕組み
が必要になります。
「AIを使う力」と「AIを統制する力」
Gatri氏は今回のインタビューで、AI活用を進める力を「AI Offense」、それに対してガバナンス、説明責任、リスク管理を整えることを「AI Defense」と表現しています。
分かりやすい考え方だと思います。
企業ではどうしても、
何ができるのか
どれだけ効率化できるのか
どれだけ早く導入できるのか。
という「使う側」の話に関心が集まります。
でもAIが、「情報を出す道具」から「自ら判断して動く存在」へ変わっていくなら、
誰が止められるのか。
という側の設計も、同じくらい重要になります。
これは、AI活用に慎重になりすぎようという話ではありません。
むしろ逆です。
AIに任せられる範囲と、任せられない範囲が明確になれば、安心して自動化できる領域も広がります。
AIを統制する仕組みは、AI活用を止めるためではなく、
安心して前へ進むために必要な仕組み
と考えた方がよいと思います。
日本企業でAI Agentを検討するなら
これから日本企業でも、AI Agentを使った業務自動化の検討は増えていくでしょう。
その時、
「どのAIを使うか」
「精度はどの程度か」
「既存システムとどう連携するか」
と同時に、もう一つ考えておきたいことがあります。
AIに任せる判断と、人が持ち続ける判断を、業務として分けられているか。
フィールドサービスでは、判断の先に実際の設備があります。
顧客がいます。
安全があります。
部品があります。
契約があります。
AIが文章を一つ間違えるのと、AIの判断によって設備停止や不要な部品交換が起こるのとでは、リスクの意味が違います。
だからこそ、
AIを導入してからガバナンスを考えるのではなく、
AIに仕事を渡す時点で、どこまで任せるのか、誰が責任を持つのかも一緒に決める。
その発想が必要になってくると思います。
「何を任せるか」だけでなく、「何を任せないか」を決める
AIができることは、これからさらに増えていくでしょう。
だからこそ、
「AIで何ができるか」
という問いだけでは足りなくなります。
どんな判断なら任せられるのか。
どんな条件なら人の承認が必要なのか。
絶対にAIだけでは決めさせないことは何なのか。
そこを先に決める。
人に仕事を任せる時に、役割や権限を決めるのと同じです。
AI Agentについても、
技術的にできることから考えるのではなく、業務として「誰が何を決めるのか」を設計する。
それが、AIが「助言」から「判断・実行」へ進む時に必要になる、次のフィールドサービスDXなのではないでしょうか。
あなたの会社では、AIに「何をさせるか」だけでなく、「何を決めさせてはいけないか」を決めていますか？
YMG Advisoryでは、AIやFSMなどのテクノロジー導入を起点にするのではなく、現場のどの判断がボトルネックになっているのか、その判断を人・仕組み・テクノロジーのどこに持たせるべきかを整理するところから、フィールドサービス改革を考えています。
参考
Future of Field Service, The Hidden Risks of AI in Service: Why a Strong AI Defense Matters, September 16, 2026. Dr. Aymen Gatri氏へのインタビュー