カスタマーサポートのシャドーAI：担当者がチケットをChatGPTに貼り付けたときの対処法

カスタマーサポートのシャドーAIとは？

シャドーAIとは、会社の承認や監督なしに業務で使われるあらゆるAIツールのことです。サポートでは、ほぼ例外なく、担当者自身のChatGPT、Claude、Geminiアカウントが、実際の顧客への返信を書いたり直したり翻訳したりするために使われることを指します。

これは一部の人だけの習慣ではありません。Zendesk自身のCX調査では、シャドーAIの利用が「has jumped up to 250% year-on-year in some industries」と報告されています（2025年CXトレンド発表より）。サポートリーダーがより警戒すべき点は、ZendeskのシャドーAIに関する記事にあります。シャドーAIを使う担当者の87%が、顧客データの分析に使っているというものです。MicrosoftとLinkedInの2024年Work Trend Indexは、より広い数字として、AI利用者の78%が自分のツールを職場に持ち込み、52%が最も重要な業務での利用を認めたがらないとしています。

最後の数字が、あなたが発覚に遅れた理由を説明しています。人は、怒られると思うので隠します。Redditのセキュリティ担当者が、まさにサポート版の状況を次のように述べています。

"Support has also been using AI tools to draft replies with real customer data. I have no visibility into what's already been shared with these third-party models, and no practical way to monitor or control it right now."

u/Expensive_Doctor6334, r/ciso

担当者がそうする理由

ポリシーを書く前に、動機を真剣に受け止めてください。習慣を何に置き換えるかは、動機で決まるからです。シャドーAIを使う担当者は、Zendeskの調査によると「over two and a half hours every single day」を節約していると見積もっています。社内通達ひとつで手放す人はいません。

キューの現場から見ると、用途は退屈なほど具体的です。怒っている顧客への返信をやわらげる。シフトの誰も読めない言語のチケットを翻訳する。引き継ぎ前に40件のやり取りを要約する。分かりにくい返金ポリシーを、親しみやすい2文にする。これらはいずれも、今ではヘルプデスク内に同等の機能があり、それがこの記事の後半で述べる解決策の要点です。

もうひとつの要因は、ほとんどの担当者が、貼り付けをデータの共有だと考えていないことです。このRedditの投稿は、私が読んだどのポリシー文書よりも、そのギャップをうまく捉えています。

"A coworker pasted a client report into ChatGPT to make it look cleaner and more structured as a PDF. Not just generic stuff. It had client names, pricing info, contact details, internal notes, all of it. I said that feels like sharing client data with a third party tool. She genuinely did not understand why I was concerned. Her point was basically: "I'm not uploading it publicly. I'm just using AI to format it.""

u/Ok_Interest_8699, r/LLM

ですから、チームへの最初のメッセージは、責めるのではなく説明するものにしてください。担当者は、手元のツールで顧客により早く答えようとしていたのです。トーンガイドや翻訳用語集が手薄なら、それも彼らがChatGPTに手を伸ばした理由の一部です。

貼り付けたチケットには実際に何が起きるのか？

答えは、担当者がどの種類のアカウントを使ったかで完全に変わります。各ベンダー自身のドキュメントには次のように書かれています。

この表の3つのポイントで、状況の深刻さが変わります。

学習をオフにしても、チケットが社内に留まったわけではありません。 オプトアウトしたチャットも、OpenAIのサーバーに送られており、OpenAIの保持に関する記事によれば、担当者の履歴に「until you delete them」残ります。削除すると、30日以内に完全削除が予定されます。学習設定は将来のモデルに関するものです。リスクは、データが今どこにあるかです。

会社のメールアドレスでは管理権限は得られません。 OpenAIは、ドメインを認証しても「does not delete an existing personal ChatGPT workspace or merge its chats」と明言しています（ドメイン認証ガイドより）。ChatGPT Businessでは、管理者は従業員の個人ワークスペースについて「cannot require a merge or deletion」です（導入ガイドより）。担当者がGmailで登録していれば、どの管理設定もそのアカウントには届きません。

Claude Enterpriseが唯一の例外ですが、範囲は狭いです。 Anthropicは、Enterpriseの管理者が、認証済みの自社ドメイン上の個人Claudeアカウントを検出して引き継ぐことを認めており、移行期間は30日です（ドメイン引き継ぎガイドより）。Teamプランでは、新しい個人アカウントをブロックすることしかできません。どちらも、担当者が個人メールのアカウントに貼り付けることは止められません。

だからこそ、コピーの手順が本当の問題なのです。人がチケットをヘルプデスクの外へ持ち出す方法は、すべてその人のアカウント設定に依存します。AIがその場でチケットを読む方法は、すべて自社が結んだ契約に依存します。

これは情報漏えいですか？

自動的にはそうなりませんが、慌てず、かといって軽視もしないために、正しく理解しておく価値があります。GDPRでは、個人データの侵害には「unauthorised disclosure of, or access to, personal data」が含まれます（第4条(12)より）。顧客の氏名とメールアドレスを、会社が契約していないアカウントに貼り付けた場合、この定義に当てはまる可能性があります。報告が必要かどうかは、関係者へのリスクで決まり、報告対象の侵害は、認識してから「not later than 72 hours」以内に監督当局へ届け出ます（第33条より）。

実務上のルールは次のとおりです。今すぐインシデントとして記録し、報告の判断はプライバシーまたは法務の責任者に任せ、実際に何を貼り付けたかで規模を判断します。外に出たものの中で最も重いものを選んでください。

患者や金融の顧客を支援している場合は、反証がない限り、上位2つのレベルにいると考えてください。ヘルスケアとフィンテックのガイドでは、それぞれの業界の追加ルールを扱っており、同僚がHIPAA準拠のAIについても別に書いています。

禁止がうまくいかない理由

本能的には、社内ネットワークでchatgpt.comをブロックして終わりにしたくなります。試した人たちは同じ結果を報告しており、セキュリティフォーラムのこの投稿が最も明快です。

"Blocking the domains outright just pushed people to use their phones, which is worse since you lose all network visibility. What actually helped was getting an enterprise license with the API and data processing agreement locked down, then making that the only approved path. People stopped sneaking around when the official tool was easier than the workaround."

u/the_FamousClearing, r/ciso

あるツールを塞いでも、次のツールが開いたままになることもよくあります。カスタマーサクセスマネージャーは、ChatGPTが「recently disabled without explanation」になった一方で「Claude remains unblocked」だったと、このr/CustomerSuccessのスレッドで報告しています。そしてHacker Newsでは、元銀行員がたった1つの操作でブロックを回避したと述べています。

"When I worked at a large bank they blocked ChatGPT on the network. Unfortunately I was a new grad who didn't know Java working in a Java team. I just turned off the vpn and copy pasted the code back and forth until it worked. Boss didn't seem to mind."

haaz, Hacker News

禁止は、習慣をさらに見えにくい場所へ移すだけです。サポートリーダーが気にする2点、つまりコピーの手間の大きさと、チームから見える範囲で、各選択肢を比べるとこうなります。

会社のChatGPTやClaudeのワークスペースは、確かな改善です。ChatGPT Businessは年払いでユーザー1人あたり月額$20（月払いは$25）で、OpenAIのビジネス向け料金によればデフォルトではデータを学習に使いません。Claude Teamも、Claudeの料金ページによれば標準シートあたり同じ$20/$25です。しかし、どちらも担当者がチケットをコピーして回答を貼り戻す必要があるため、チケットに紐づく記録も、ヘルプセンターに基づく根拠も得られません。サポートでは、会社のワークスペースは最終形ではなく、つなぎと考えるのがよいでしょう。

発覚後の7日間プラン

これを解決するのに、40ページのAIポリシーは要りません。必要なのは落ち着いた1週間です。私なら次の順で進めます。

今日：一時停止、確認、記録

魔女狩りを始めずに、新たな貼り付けを止める短いメッセージをチームに送ってください。たとえば次のようなものです。

一部のチケットが、返信を下書きするために個人のAIアカウントに貼り付けられていたことが分かりました。理由は理解しています。そのほうが速いからです。今後は、顧客のチケットや顧客情報を、個人のChatGPT、Claude、Gemini、またはそれに類するツールに入力しないでください。今週中に、チケットでAIを使うための承認済みの方法を用意します。すでに使ったことがある場合は、共有された内容を確認できるよう、私に個別に知らせてください。そのチャットはまだ削除しないでください。知らせてくれた人が責められることはありません。

「責められることはありません」の一文が重要です。Redditのセキュリティ担当者は、これを恩赦として扱うことを勧めていました。古い習慣を差し出してもらい、管理されたツールを渡し、「we ask what they use it for, find out more about their pain points」というやり方です（このr/cisoの返信より）。何を置き換えるべきかが分かり、人々も話し続けてくれます。

1〜2日目：影響範囲の把握

担当者ごとに、どのツールか、どの種類のアカウントか（個人メールか会社メールか）、学習はオフだったか、おおよそ何件のチケットか、関わった最も重いデータの種類は何か、を確認します。上のトリアージツールを使ってください。プライバシー責任者に必要な情報が揃ったら、担当者にチャットを削除してもらい、削除したことを記録します。ヘルプデスクが対応していれば、そのチケットに、そもそもマスキングしておくべきだったデータが含まれていなかったかも確認します。

2〜4日目：承認済みツールの選定

担当者が回避策より好んで使うものを選びます。ChatGPTより遅ければ、習慣は金曜日までに戻ります。次のセクションで確認すべき点を取り上げており、ヘルプデスク自身のAIについて私が意外に思った点も含まれます。

4〜7日目：ルールを書いて研修する

サポートSOPに、AIに関する1ページのセクションを追加します。承認済みのツールはどれか、どのAIツールにも入力してはいけないもの（カード番号、パスワード、健康情報）は何か、誰に相談すればよいか、を書きます。それをエージェントの研修に組み込み、ポリシーが変わったときは、他のポリシー変更と同じように展開します。

ヘルプデスク内蔵のAIは自動的に安全ですか？

ここは慎重に進めたい点です。分かりやすい解決策は「ヘルプデスクに付いているAIをオンにする」ことで、多くの場合、個人アカウントよりチケットデータの置き場所としてはるかに適しています。以下のどのベンダーも、外部のモデル提供元がチケットで学習することを契約で禁じています。ただし、細則はベンダー自身の学習と管理者の設定に関するもので、大きく異なります。

価格はZendeskの料金ページとFreshdeskの料金ページによるものです。これらのドキュメントを読んで、2点が目立ちました。

1つ目は、ヘルプデスクのAIがすでにオンになっているかもしれないことです。Zendeskの文章強化機能は「By default, this feature is turned on」と「By default, all groups have access」の状態で提供されます（設定記事より）。HubSpotも「The conversation inbox AI assistant is on by default」と述べています（受信トレイガイドより）。この問題にとっては朗報です。担当者が知らないだけで、承認済みの書き直しボタンがすでにあるかもしれません。伝えてあげてください。

2つ目は、ベンダー自身の学習設定は、5分かけて確認する価値があることです。HubSpot自身のモデル学習はデフォルトでオンで、オプトアウトできるのはSuper Adminだけであり、「It is not possible to delete previously used data from trained models」とされています（学習に関する記事より）。Freshworksは、support@freshworks.comにメールすればアカウントをAI学習から除外します。これらはどれも、ツールが安全でないという意味ではありません。「内蔵」だからといって、設定ページを読まなくてよいわけではないという意味です。

さらに詳しく知りたい場合は、Zendesk CopilotガイドとHubSpot Breezeレビューから始めてください。

プライバシーについては、FreshdeskのGDPR、GorgiasのGDPR、チャットボット向けSOC 2に個別の記事があります。

サポート向けの承認済みAIツールに必要なこと

ヘルプデスクのアドオン、会社のワークスペース、専用のエージェントアシストツールなど、何を選ぶにしても、このリストと照らし合わせてください。これらは、eeselの営業の場でセキュリティ審査担当者から出る質問で、的を射ています。

1. 契約であって、トグルではない。 ベンダーの規約でデータを学習に使わないと定められていること、さらにプライバシー責任者に渡せるDPAがあること。
2. モデルが見る前のマスキング。 チケットが保存・インデックス化される前に、カード番号、メールアドレス、電話番号が除去されること。
3. コピーの手順がない。 下書きが、社内メモまたは返信の下書きとしてチケット上に表示されること。習慣を終わらせるのはこの点です。
4. 最初は送信ではなく下書き。 顧客に何かが届く前に、人が承認すること。返金や請求には承認ワークフローを設定します。
5. 自社の回答に基づいている。 ヘルプセンター、マクロ、過去のチケットから、チームが言うはずのことを下書きに反映すること。先にナレッジベース監査を行うと効果が出ます。
6. ロールごとのアクセス制御とログ。 誰が使えるかを自分で決め、すべての下書きが記録されること。エージェントのアクセス制御を参照してください。

セキュリティの基準は現実のものです。eesel自身の営業の場で、デンマークのB2Bテレマティクス企業は、すべてのトライアルを社内のセキュリティレビューの条件とし、カード番号やパスワードを含むチケットが自社の環境内に留まることの保証を求めました。ハードウェア企業の技術評価担当者は、要するに、AIが答えを知らないときにChatGPTにフォールバックするのか、それをオフにできるのか、と尋ねました。承認するどのツールにも、まさにこの質問をすべきです。より詳しい購入者向けチェックリストは、AIサポートエージェントの選び方のガイドと、私が最もよく目にする導入ミスをご覧ください。

eeselが下書きをチケット内に留める仕組み

eeselは、ヘルプデスク向けのAIチームメイトです。Zendesk、Freshdesk、Gorgias、HubSpot、Help Scoutに接続し、ヘルプセンター、マクロ、過去のチケットを読み、下書きをチケット上に残します。担当者が何かを外にコピーすることはありません。

実際のチームでは、次のようになっています。

• smava（個人向けローン、ドイツ）は、1つのZendeskで2つのブランドを運用しています。ある月に、eeselは約15,300件の返信下書きを用意し、それぞれが承認・却下ボタン付きでチケットに届きました。担当者は、社内メモに@eeselと書いて下書きを修正します。規制の厳しい金融では、誤った約束をする返信は害になるため、送信は人がコントロールします。
• **Timengo**は、デンマークでセキュアなメールソフトを販売しています。Freshdeskの新しいチケットには、デンマーク語の下書きとエンジニア向けの社内メモが付き、eeselが顧客チケットに自動で返信することはありません。エンジニアは、すでに対応中のチケットで、Freshdesk内でeeselのブラウザ拡張機能も使っています。
• **Qontro**は、Freshdeskのすべてのチケットに下書きが付きます。チームは下書きと実際に送った内容を比較しており、今ではおよそ10件に1件が、ほぼ編集なしで送られています。間違った下書きは、内容が薄いヘルプ記事を示しており、それを修正しています。
• **OroSoft**では、担当者がチケットでeeselにメンションし、過去6,100件のチケットに基づく下書きを得ています。参照したチケットや記事を示し、過去のチケットから顧客の氏名や詳細をコピーしてくることはありません。

すべての実行は記録に残ります。アクティビティビューには、各会話とアクションが承認済み、却下済み、保留中の状態とともに表示されるため、AIが何を下書きし、人がそれをどうしたかを正確に確認できます。

データについて、eeselのセキュリティページには、お客様のデータでモデルの学習やファインチューニングを行わないこと、モデル提供元は学習を認めない商用APIの条件下でのみデータを処理することが記載されています。ワークスペースはそれぞれ分離され、PIIのマスキングにより、同期されたチケットからメールアドレス、電話番号、カード番号が保存前に除去され、どのアクションも人の承認を待つことができ、eeselはお客様のデータに影響する侵害を48時間以内に通知することを約束しています。SOC 2 Type IIは進行中で、観察期間は2026年10月1日に始まり、監査は2027年初頭の予定です。署名済みBAAによるHIPAA対応はEnterpriseで提供されます。

本番稼働の前に、eeselは過去のチケット数百件を再生し、チームが実際に送った内容と照らして回答をスコアリングできるため、顧客より先にギャップを確認できます。

eeselを試す

担当者がチケットをChatGPTに貼り付けているなら、最も早い解決策は、チケット内にもっと良いボタンを用意することです。eeselは、ZendeskやFreshdeskのチケット上で、自社のヘルプセンターと過去の回答から返信を下書きします。外にコピーするものはなく、すべての下書きが記録されます。料金は固定の月額プランで、100クレジット付きの無料プランから始められ、その後は500件のチケットまたはチャットで月額$299から。担当者とシートは無制限です。

自社のチケットでeeselを試すか、先にセキュリティレビューが必要な場合はデモを予約してください。