株式会社Number
NUMBER / SERVICENOW INSIGHTS

AIの異常を、誰の仕事にするか。
ServiceNow調査に見る、対応のつなぎ方。

AIが顧客対応や受注を担うほど、止める判断は、業務をどう続けるかという判断にもなります。
ServiceNowのインド調査と、Clineの事故、Dialogflowの研究事例から、現場とセキュリティをつなぐ備えを考えます。

AGENTIC SECURITYINDIA RESEARCHGOVERNANCE / RESPONSE

KEY TAKEAWAYSこの記事のポイント

  1. インド調査では、回答企業の92%がAIエージェント関連のインシデントを経験。そのうち24時間以内に封じ込めたのは36%でした。
  2. Clineの事例では、脆弱なAI処理を止めた後にも、有効な認証情報が残り、不正配布が起きました。封じ込めは、実際に権限を無効化できたかまで確かめる仕事です。
  3. 顧客対応を担うAIでは、停止範囲、代替対応、再開条件を、業務の責任者と決める必要があります。Dialogflowの事例は、実被害とは分けて紹介します。
CONTENTS / 目次01 インド調査が示した隔たり02 Clineの事故と電話AIの実証03 AIを止めると、何が止まるか04 現場と一緒に対応を試す出典・参考情報
01 / THE NEWS

検知の体制があっても、
封じ込めまで進めるとは限らない。

公式発表の要約

2026年11月18日、ServiceNowはインドのセキュリティ責任者500人を対象にした調査結果を発表しました。新製品の発表ではなく、すでに動いているAIエージェントを、企業がどこまで管理できているかを調べたものです。[1]

インドの回答で見えた、備えと対応の隔たり
調査項目回答割合
過去1年にAIエージェント関連のセキュリティインシデントを経験92%
24時間以内に封じ込めインシデントを経験した組織のうち36%
異常な動きをリアルタイムで自動検知51%
異常時に自動で対処できない67%

出典:ServiceNow公式発表[1]。36%の母数はインシデントを経験した組織です。それぞれ別の設問への回答で、同一組織の対応経過や、設問間の因果関係を示す数字ではありません。

調査全体の対象は、VP以上のセキュリティ・技術分野の意思決定者です。インドの500人もその一部で、電話窓口の担当者や、AI専任の担当者だけを調べたものではありません。[1]

02 / NUMBER’S VIEW

AIを止めた後にも、
事故につながる権限が残っていた。

Numberの視点

「AIエージェント関連のインシデント」と言われても、何が起こるのかは想像しにくいかもしれません。私は、具体的な出来事から、対応のどこが難しかったかを見たいと思います。

Clineで実際に起きた、ソフトの不正配布

実際に起きた事故 / 2026年2月

開発支援ツールのClineは、外部からGitHubへ届く不具合報告をAIで自動仕分けしていました。同社の事後報告によると、このAIにはコマンドを実行する権限もあり、報告文に含めた指示でAIを誘導できる脆弱性がありました。実行環境を経由して、ソフト公開用の認証情報に届き得る構成だったと説明しています。[2]

公表後、同社は脆弱な自動処理を止め、認証情報の入れ替えを進めました。しかし、失効させるものを取り違え、問題の認証情報が有効なまま残りました。2月17日には、第三者がそれを使い、Cline CLIの不正なバージョンを公開。インストール時に、正規の別ソフトであるOpenClawを無断で追加する内容でした。[2][3]

修正版の公開と認証情報の失効まで、約8時間。その影響は当該CLIパッケージに限られ、同社は悪意あるコードの配布や利用者データの流出はなかったとしています。[2][3]

ここで確かめたいのは、AIの処理を止めた後にも、接続先で使える権限が残っていたことです。誰が認証情報を失効させ、何をもって無効になったと確認するのか。封じ込めには、そこまでの引き継ぎが必要になります。

電話AIに近い、Dialogflowの研究事例

研究者の環境での実証 / 2026年7月公表

顧客対応の場面を考える材料もあります。Varonisは、音声・チャットのAIを作るGoogle Dialogflow CXで、エージェントの設定を編集できる権限を足掛かりに、会話の外部送信や、偽の再認証案内を差し込める脆弱性を報告しました。同じプロジェクト内の別エージェントにも影響し得る構成でした。[4]

こちらは研究者自身の環境での実証で、顧客への実被害を報告したものではありません。Googleは2026年6月までに修正し、研究者は修正前の実攻撃を把握していないとしています。電話の利用者が、話しかけるだけで乗っ取れるという話でもありません。[4]

それでも、普段は顧客を助ける会話や業務の接続が、攻撃に使われる可能性を具体的に示しています。電話の応答を止めるか、人へ戻すか。その判断には、窓口の仕事を知る人も必要です。

03 / LOCAL RELEVANCE

現場に近いAIほど、
止める判断は、業務の判断にもなる。

Numberが考える日本企業への適用

従来のインシデント対応にも、システムを止めれば業務が止まるという判断はありました。AIエージェントでは、その判断が、顧客への応答や受注の処理といった、仕事の細かな場面にまで広がります。

たとえば、電話AIの一部の案内に問題があったら、窓口全体を止めるのか。本人確認や手続きだけ人へ戻し、よくある質問への回答は続けられるのか。受注を扱うAIなら、データの更新や外部送信だけを制限して、確認待ちにできるのか。

どこまで止めれば安全を確保でき、どこまでなら仕事を続けられるか。その境界を見極めるには、システムの構成だけでなく、顧客との約束、現場の対応力、その処理の前後にある仕事も知る必要があります。

技術担当と業務の責任者が、一緒に判断したいこと
判断すること確かめたい業務上の影響
何を止めるか一つのAI、特定の操作、共有アカウントなど、制限の範囲によって止まる仕事は何か。
何がすでに起きたか送信済みの案内、更新された顧客情報、処理済みの受注を、どこまで追跡・訂正できるか。
代わりにどう続けるか人が引き継げる件数、確認待ちにする処理、顧客への説明をどうするか。
いつ再開するか認証情報や設定の修正だけでなく、業務が正しく戻ることを誰が確かめるか。

表:Numberの判断項目の例。操作や会話単位で制限できるかどうかは、利用する製品・構成ごとの確認が必要です。

AIが正規の権限で動いていても、その処理が会社の意図に沿っているとは限りません。不審な動きと正当な依頼が、同じ業務の経路を通る場面も考えられます。AIだから常に難しいというより、業務の意味を踏まえなければ決められない場面が増える、と捉えるのがよさそうです。

経営が決めたいのは、セキュリティ、AIの運用、業務の責任者が集まって判断できる体制と、その場で実行できる権限です。事前に任せる制限と、業務側の判断を求める境界を決めておけば、異常が起きてから相談先を探す時間を減らせます。

04 / GETTING READY

一つのAIを題材に、
現場と一緒に対応を試してみる。

判断するために、まず確かめること

社外への送信、顧客データの更新、本番環境の操作を任せているAIから、一つ選んでみます。「明日の夜、このAIの応答に不審な案内が混ざったら」。そんな場面を置いて、現場と技術担当で対応をたどってみるのはどうでしょうか。

01 / ASSIGN判断する人をそろえる検知した人から、セキュリティ・運用・業務の責任者へ引き継ぐ
02 / CONTAIN範囲を決めて制限するAIと接続先の権限を確認し、必要な制限が効いたかを確かめる
03 / CONTINUE代替対応から再開へ現場の仕事を引き継ぎ、影響確認・訂正・再開の結果を残す

図:Numberの業務設計例。制限や復旧の自動化範囲は、接続先、権限、事前に定めた条件で異なります。

  • 担当と接続先を追えるか。AIの担当者だけでなく、使っているアカウントや外部サービスの管理者も分かる状態にする。
  • 制限が効いたことを確認できるか。設定を変えたという報告で終わらせず、対象の認証情報や操作が使えなくなったことを確かめる。
  • 止まる仕事を引き継げるか。人へ戻す手順、対応できる量、顧客への連絡を業務側と決める。
  • 再開の判断を残せるか。誰が何を確認し、どの範囲から再開したかを記録する。

判断と実行をつなぐ基盤としてのServiceNow

ServiceNowのSecurity Incident Responseは、分析から封じ込め・復旧・振り返りまでを扱い、部門をまたぐタスクの割り当てや、外部セキュリティ製品との連携を支えます。[5]

AIの異常対応にもこの仕組みを使うなら、エージェント、接続先、影響する業務、対応する担当を関連付けたいところです。制限の実行を運用担当へ、代替対応を現場へ割り当て、それぞれの確認結果を一つの対応記録へ戻す。私は、その引き継ぎを支えるところに、ServiceNowを置く意味を感じます。

まだ文章の下書きや情報参照だけで使い、実行権限を渡していない企業なら、まず対象と担当の把握からでもよいと思います。すべてを一度に自動化したり、大きな統制基盤に投資したりする必要はありません。

安全に止められることと、仕事を続けられることを、一つの設計で考える。AIが現場に近づくほど、その備えも、現場と一緒につくっていきたいと思います。

出典・参考情報

  1. 92% of Indian organisations had an AI agent security incident in the past year; only 36% of them contained it within 24 hours ↗ServiceNow Newsroom / 2026.11.18 / インド500人の調査結果、回答者の範囲と調査方法。Cline・Dialogflowの事例を調査の内訳として扱っていません。
  2. Cline — Post-mortem: Unauthorized Cline CLI npm publish on February 17, 2026 ↗Cline公式事後報告 / 2026.02.24 / AIによる仕分け処理の脆弱性、認証情報の失効漏れ、不正配布と対応。同社の説明に基づき、実攻撃の全経路を独立検証したものではありません。
  3. Cline Security Advisory — Unauthorized npm publish of Cline CLI cline@2.3.0 ↗Cline公式セキュリティ勧告 / 2026.02.17 / 対象CLI版、約8時間の公開期間、OpenClawの無断追加、修正版と認証情報の失効。VS Code拡張・JetBrainsプラグインは対象外。
  4. Varonis — Rogue Agent: How a Single Code Block Could Hijack Your AI Conversations in Google’s DialogFlow ↗発見した研究者による報告 / 2026.07.07 / 自らの環境での実証。設定編集権限を前提とする脆弱性で、2026年6月までに修正。修正前の実攻撃は把握していないとの説明。
  5. ServiceNow Documentation — Understanding Security Incident Response ↗ServiceNow公式ドキュメント / Brazil / 分析、封じ込め・復旧、タスクの割り当て、外部製品連携、事後レビュー。AIエージェントへの実装一式を示す資料ではありません。

公開情報の確認日:2026年11月20日。

この記事をシェア

投稿前に文面を編集できます。

Xでシェア(新しいタブで開きます)
廣田真一Number 執行役員CEO
ServiceNowの最新発表を、業務設計と日本企業への適用という視点から読み解きます。

Xでフォローする (新しいタブで開きます)

LET’S REDESIGN YOUR WORKFLOW.

AIを止める判断を、
現場とつながる備えに。

どこまで制限し、誰が仕事を引き継ぎ、何を確かめて再開するのか。
今の業務とAIの使い方に合わせて、現場とセキュリティをつなぐ対応を一緒に整理します。

AIの異常対応・業務設計を相談する

STAY CONNECTED