AIエージェント CXトレンドレポート2026年版
そのための運用の枠組みとなるのが、カスタマーサービスにおけるAIガバナンスです。統制と信頼を保ちながら、AIエージェントの評価、テスト、導入、監視、改善を進める方法を定めます。
AIガバナンスという言葉は、一般には、AIの活用に伴うリスクを受け入れられる水準に抑えながら、その便益を高めるための仕組みづくりと運用を広く指します。この記事では、そのうちカスタマーサービスでのAI活用に絞り、AIエージェントなどを運用する際に対処すべきリスク、国内外の規制とガイドライン、フレームワークの構成要素、導入のステップを解説します。
目次
カスタマーサービスにおけるAIガバナンスとは カスタマーサービスにおけるAIガバナンスとは、サポート部門がサービス提供の全工程でAIをどのように使うかを統制する、方針、プロセス、基準、ガードレール（逸脱を防ぐ仕組み）の総称です。AIの利用の承認、学習、テスト、監視、監査、担当者への引き継ぎ、改善の進め方を対象とします。AI倫理だけでなく、データへのアクセス範囲、承認済みのナレッジソース、役割に応じた権限、承認ワークフロー、AIの動作中に働く制御、ハルシネーションの監視、インシデント対応、監査に備えた文書化までを含みます。
AIガバナンスが重要な理由 カスタマーサービス
AIが試験導入から本番運用へ移るにつれ、サポート部門の責任者には、有益な新しい取り組みの速度を落とさずにリスクを抑える管理策が必要になります。ガバナンスが整うと、顧客はこれまでより安全で一貫した対応を受けられます。担当者も、明確な指針、より安全な自動化、エスカレーション
カスタマーサービスにおけるAIのリスクと対策 AIガバナンスは、リスクの可視化から始まります。目的は、AIの利用を避けることではなく、AIがどこでリスクを生み得るかを把握し、安全策を定め、パフォーマンスを継続的に監視することです。
AIのハルシネーションと不正確な回答 AIのハルシネーションとは、AIシステムが、もっともらしく聞こえる誤った情報や、裏付けのない情報、架空の情報を生成する現象です。カスタマーサービスでは、規定に関する誤った案内、返金についての不正確な情報、誤ったトラブルシューティング手順など、質の低いサポートにつながるおそれがあります。
ハルシネーションのリスクは、承認済みのナレッジソースをAIの回答の根拠にする、リスクの高い話題では回答を制限する、導入前のテストを必須にするなど、ガバナンス上の対策で抑えられます。慎重な扱いが必要なワークフローには、人による確認、回答の確信度に設けるしきい値、担当者へ引き継ぐルールを組み込んでおきます。
AIエージェント ヘルプセンター
データのプライバシーとセキュリティ カスタマーサービスのやり取りには、個人情報、決済情報、アカウント情報、健康に関する情報など、慎重な取り扱いが必要な情報が含まれることが少なくありません。AIガバナンス
プライバシーとセキュリティの管理策には、役割に応じたアクセス権限、承認済みのデータソース、マスキングのルール、データの保持期間に関するルール、監査ログを含めます。たとえば、AIエージェントに注文状況の確認は認めつつ、決済情報の詳細にはアクセスさせない設定にできます。
強固なガバナンスは、データが必要以上に開示されるのを防ぐことにもつながります。AIがアクセスする範囲は、特定のタスクの完了に必要なシステムと項目だけにとどめます。
バイアスと公平性 バイアスは、AIによる提案、ルーティングの判断、優先順位付け、顧客とのやり取りに影響することがあります。カスタマーサービスの現場では、顧客層、言語、地域、問い合わせの種類によって、対応が一貫しなかったり、不公平な結果になったりするおそれがあります。
バイアスは、テスト、部門横断のレビュー、継続的な監視によって抑えます。サポート部門は、顧客対応のさまざまな場面でAIの出力を評価し、有害な傾向、排除につながる傾向、差別的な傾向が出ていないかを注視します。
モデルドリフトとパフォーマンス AIのパフォーマンスは時間とともに変化します。新製品の発売、規定の改定、季節による需要の変動、顧客が使う言葉の変化、モデルの更新によって、精度が下がることがあります。
モデルドリフト（運用を続けるうちにAIの精度が下がっていく現象）には、継続的な監視、再検証、以前の状態へ戻すためのロールバック計画、大きな変化があったときの再学習で対処します。AIが対応した問い合わせの解決品質、エスカレーション率、顧客満足度、繰り返し起きる失敗のパターンを追跡します。
AIのパフォーマンスが下がったときに備えて、対応計画をあらかじめ定めておくことも欠かせません。計画には、ワークフローの一時停止、担当者へ振り分ける問い合わせの範囲の拡大、ナレッジソースの更新、モデルの再学習などを盛り込みます。
コンプライアンスと事業上のリスク AIが、法令で取り扱いが規制されている情報を扱ったり、根拠のない説明をしたり、承認済みの業務ルールから外れた動作をしたりすると、コンプライアンス、財務、評判の面でリスクが生じるおそれがあります。
このリスクを下げるために、ガバナンスの中で、説明責任、文書化、人による監督、承認の要件を定めます。あわせて、カスタマーサービスの責任者と、IT、法務、プライバシー、セキュリティ、コンプライアンスの各担当が、AI導入に共同で責任を持つ体制をつくります。
AIガバナンスに関わる国内外の規制・ガイドライン・規格 リスクベースの規制は、AIガバナンスのあり方をますます強く左右するようになっています。企業は世界各地のルールを注視し、影響の大きい用途、より慎重な扱いが必要なデータを扱う用途、生じ得る損害が大きい用途には、より厳格な管理策を適用する必要があります。日本の企業でも、EU域内や米国カリフォルニア州の顧客にサービスを提供している場合は、次に挙げる海外の制度が関係することがあります。
EU AI法（EU AI Act） EU AI法は、AIシステムをリスクの水準で分類し、それに応じた義務を課すリスクベースのアプローチを採っています。欧州委員会のガイドラインは、第50条に基づく特定のAIシステムの透明性に関する義務 欧州委員会の説明 チャットボット
サポート部門にとっての実務的な対応は、AIの用途をリスクで分類することです。単純なFAQ
GDPRとCCPA（EUと米国カリフォルニア州のプライバシー法） EU一般データ保護規則（GDPR） カリフォルニア州消費者プライバシー法（CCPA）
カスタマーサービスでは、こうした要請を、ガバナンスを通じて運用上の管理策として具体化します。AIがどの顧客データにアクセスできるのか、アクセスを認める理由は何か、データをどれだけの期間保持するのか、ルールが守られていることをログや監査でどう証明するのかを、文書にしておきます。
NIST AI RMF（米国のAIリスク管理の枠組み） NIST AIリスクマネジメントフレームワーク
サポート部門は、NIST AI RMFを使ってAIのリスク評価を標準化できます。たとえば、サポートの流れのどこでAIが使われているかを洗い出し（Map）、パフォーマンスとリスクを測定し（Measure）、インシデントを管理し（Manage）、カスタマーサービス、IT、法務、プライバシー、セキュリティにまたがる責任分担を定めて統制する（Govern）、といった使い方です。
ISO/IEC 42001（AIマネジメントシステムの国際規格） ISO/IEC 42001
サポート部門にとって、ISO/IEC 42001は、AIに関する方針、説明責任、リスク管理、継続的な改善を整えるための枠組みになります。ISO/IEC 27001やISO/IEC 27701といったセキュリティとプライバシーの規格を補完することもできます。
AI事業者ガイドラインとAI法（日本の指針と法律） 日本では、総務省と経済産業省が「AI事業者ガイドライン
法律としては、「人工知能関連技術の研究開発及び活用の推進に関する法律 生成AIサービスの利用に関する注意喚起
AIガバナンスのフレームワークを構成する主な要素 強固なAIガバナンスのフレームワークでは、方針、テクノロジー、責任の所在、日々の運用が結び付いています。次の要素が、その土台になります。
データガバナンス（AIが扱うデータの管理） データガバナンスでは、AIがアクセスできる情報、そのデータの取得元、保護の方法を定めます。管理策として、データソースを承認済みのものに限り、扱うデータを最小限にとどめ、アクセス権限、マスキングのルール、保持期間の上限を定めて、監査証跡を残します。
AIのパフォーマンスは、最新で正確な、よく整理されたコンテンツに左右されます。そのため、AIエージェントの場合は、データガバナンスの対象にナレッジ
モデルガバナンス（AIの評価と変更管理） モデルガバナンスでは、導入の前後にAIシステムをどう評価するかを定めます。テスト、妥当性の検証、バージョン管理、パフォーマンスの基準値、ロールバック計画、変更管理
運用を始める前に、実際のカスタマーサービスのさまざまな場面に沿ってAIをテストすることが欠かせません。導入後は、解決品質、エスカレーション率、ハルシネーションの発生率、顧客感情、規定の遵守状況を監視します。
透明性と開示 顧客が、自分はいまAIとやり取りしていると分かり、必要なときに人間の担当者につながる方法も分かるようにしておきます。CXトレンドレポートによると、CXリーダーの75%が、「今後2年以内に、顧客接点のAIにとって透明性は譲れない条件になる」と回答しています。AIの透明性
インシデント対応 AIガバナンスでは、問題が起きたときの対応も定めておきます。インシデント対応計画には、リスクの判断基準、エスカレーションの経路、調査の手順、顧客への是正対応、記録の方法を盛り込みます。
たとえば、AIエージェントが規定について誤った案内をする、機密性の高い情報を漏えいさせる、特別な配慮が必要な顧客を担当者へ引き継がない、偏った表現を生成する、といった事態が考えられます。それぞれの場面について、対応をあらかじめ定めておきます。
Zendesk AIがガバナンスを支える仕組み Zendesk AI
この組み込み型の設計であれば、AIの挙動をカスタマーサービスの運用と結び付けて管理できるため、ガバナンスを強めやすくなります。ZendeskのAIエージェントは、信頼できるナレッジソースを使い、手順に従い、複数のシステムにまたがってアクションを実行し、必要に応じて担当者へ引き継ぎます。
Zendesk AIは、可視化と品質のモニタリングでもガバナンスを支えます。ZendeskのQA機能は、AIによる対応と人による対応の両方を採点できます。AIの推論過程を確認できる機能とテストツールにより、AIの挙動を把握しやすくなります。カスタマーサービスの責任者は、AIが応答したかどうかだけでなく、問題を正確かつ安全に解決したかどうかまで把握する必要があるため、こうした可視化が重要になります。
カスタマーサービスにAIガバナンスを導入する6つのステップ 実行手順として具体化したときに、AIガバナンスは最もよく機能します。次のプロセスでは、ガバナンスを繰り返し実行できる運用手順にすることで、新しい取り組みの推進とコンプライアンスを両立しやすくします。
【ステップ1】AIの利用状況を棚卸しする 顧客体験（CX、カスタマーエクスペリエンス CSAT
【ステップ2】リスクを分類する AIの用途ごとに、想定される影響の大きさで分類します。確認するのは次の点です。
このAIシステムはどのような判断に影響するか
回答を誤った場合に何が起きるか
慎重な扱いが必要なデータを処理するか
サービスの利用可否や適格性の判定、金銭、健康、安全、法的な権利に影響するか
【ステップ3】ベンダーとの契約を点検する データ処理契約（DPA）、プライバシー条項、セキュリティに関する文書を確認します。特に、データの帰属、保持期間、保管場所、モデルの学習への利用、再委託先、監査権、漏えい時の通知に関する条項に注意します。
【ステップ4】監視の仕組みを整える ログの記録、ハルシネーションの追跡、バイアスのレビュー、品質のモニタリングの仕組みを用意し、担当者へ引き継ぐ基準（しきい値）を設定します。サービス指標とガバナンス指標の両方を監視します。
有用なサービス指標
ガバナンス指標には、次のものがあります。
監査ログの網羅性
コンプライアンスに関わるインシデントの件数
ハルシネーションの発生率
担当者がAIの提案を修正または不採用にした割合
【ステップ5】開示の基準を定める 顧客がAIとやり取りするときに何を表示するかを決めます。開示の文言は、簡潔で正確なものにし、どのチャネルでも統一します。
【ステップ6】文書化し、四半期ごとに見直す AIガバナンスは、一度整備して終わりにせず、日々の運用の中で続けていく取り組みと位置づけます。方針、用途、インシデント、モデルのパフォーマンス、ナレッジの品質、ベンダーの管理体制を、少なくとも四半期に一度は見直します。製品、規定、規制、モデルに大きな変更があった後は、AIを使うワークフローの承認をやり直します。
AIガバナンスのベストプラクティス 日々のカスタマーサービスの運用に組み込まれてこそ、AIガバナンスは効果を発揮します。次のベストプラクティスは、AIの活用をリスクの低い自動化から、より複雑なワークフローへ広げていく際の指針になります。顧客を守り、担当者を支え、ガバナンスの方針を最新に保つことにも役立ちます。
1. リスクの低い自動化から始める まずは、FAQへの回答、注文状況の確認、基本的なトラブルシューティングなどの用途から着手し、効果を実証してから、影響の大きいワークフローへ広げます。
2. 慎重さが求められる判断には人が関与する 返金、アカウントの閉鎖、苦情、法規制が関わる質問、特別な配慮が必要な顧客への対応、顧客が強い不満を抱えているやり取りでは、人による確認を必須にします。
3. AIのパフォーマンスを継続的に確認する 運用開始後も、AIの品質の確認を続けます。監視の対象は、精度、エスカレーション率、未解決の問題、顧客感情、担当者からのフィードバックです。
4. ナレッジソースの品質を高く保つ ヘルプセンターの記事、社内規程、手順書を正確な状態に保ちます。AIエージェントが問題を確実に解決するには、信頼できるナレッジが必要です。
5. 顧客がAIとやり取りする場面では透明性を確保する AIが対応していることを、分かりやすい文言で開示します。顧客が共感や個別の判断、込み入ったサポートを必要としている場面では、担当者へ簡単につながるようにします。
6. AIの判断を定期的に監査する AIが対応したやり取りをサンプルで確認し、ハルシネーション、バイアス、規定の不備、セキュリティ上の問題、担当者へ引き継ぐべき兆候の見逃しがないかを調べます。
7. AIの進化に合わせてガバナンスの方針を更新する AIシステムは急速に変化するため、新しい機能、チャネル、規制、リスクが現れるたびに方針を見直します。
AIガバナンスでよくある課題 AIガバナンスで特に大きな課題になりやすいのが、責任の所在です。AIはカスタマーサービスの運用、データのプライバシー、コンプライアンス、セキュリティ、顧客からの信頼に影響するため、1つの部門だけで統制することはできません。
文書化も課題の1つです。サポート部門は、カスタマージャーニーのどこでAIが使われているかは把握していても、網羅的な一覧、リスクの分類、監視計画までは整えていないことがあります。
ナレッジの品質に問題があると、ガバナンスの不備につながることもあります。AIが古い情報、一貫性のない情報、不完全な情報を参照していれば、技術的な制御が強固であっても、正確な回答は保証されません。CXトレンドレポートによると、CXリーダーの67%が、「サイロ化したナレッジを連携できないと、AIの回答に一貫性がなくなり顧客の信頼を損なう」と回答しています。
最後の課題は、スピードと監督の両立です。最善の方法は、AIの導入を止めることではなく、リスクに応じた管理策を定めることです。そうすれば、リスクの低い用途はすばやく進めつつ、慎重さが求められるワークフローにはより厳格なレビューを行えます。
カスタマーサービスにおけるAIガバナンスの具体例 実際のカスタマーサービスの場面に当てはめると、AIガバナンスは理解しやすくなります。以下は、その例です。
人による監督を組み込んだ担当者支援のAI 担当者を支援するAI（コパイロット）が、承認済みのナレッジ、過去のチケット、顧客の状況に基づいて回答を提案します。ガバナンスによって、担当者が送信前に回答を確認し、機密性の高い項目がマスキングされ、提案されるアクションが自社の規定に沿う状態を保ちます。
ガードレールを設けたAIセルフサービス AIエージェントが、承認済みのヘルプセンターのコンテンツを使って、顧客からのよくある問い合わせを解決します。ガバナンスの一環として、リスクの高い話題の扱いを制限し、回答できない場合のルールを定め、回答の確信度が低いときは顧客を人間の担当者へ引き継ぎます。
判断の根拠が見えるAIルーティング AIが、届いた問い合わせを意図、言語、感情、緊急度で分類します。ガバナンスの面では、ルーティングのロジックを文書化して精度を監視し、チケットが特定のキューに振り分けられた理由をスーパーバイザーが確認できるようにします。
リスクの高い問い合わせに対する統制 顧客が、返金、アカウントの利用制限、金融取引、法的な判断が関わる規約について問い合わせます。こうした問い合わせでは、本人確認、人による確認、承認済みの応対スクリプト、監査に備えた文書化など、より厳格な管理策が必要になります。
継続的なガバナンスによるAIの改善 品質管理の担当部門が、AIが対応したやり取りを毎週確認します。古くなったコンテンツ、引き継ぎ漏れの傾向、繰り返し起きる失敗を特定し、ナレッジソースと手順を更新します。AIガバナンスがあることで、こうした発見が継続的な改善につながります。
よくある質問 AIガバナンスは、責任ある形でAIを利用するための運用の枠組み全体を指します。方針、責任の所在、テスト、監視、透明性、説明責任、インシデント対応が含まれます。
AIセキュリティは、不正アクセス、プロンプトインジェクション（悪意のある指示を入力に紛れ込ませ、AIに意図しない動作をさせる攻撃）、データ漏えい、モデルの悪用といった脅威からAIシステムを守る取り組みです。
データガバナンスは、データの収集、アクセス、保管、保持、保護、削除の方法を定めるものです。AIシステムには正確で利用を認められたデータが必要なため、AIガバナンスは強固なデータガバナンスの上に成り立ちます。
AIガバナンスは、部門横断で取り組むべきものです。一般に、カスタマーサービスの責任者がサービスの成果に責任を持ち、IT、セキュリティ、法務、プライバシー、コンプライアンス、データ管理の各担当がリスクへの管理策を定めます。
責任を明確に割り当てた体制が、最もよく機能します。AIの用途ごとに、業務の責任者、技術の責任者、リスクの審査担当、エスカレーション先の担当者を決めておきます。
AIガバナンスの方針は、少なくとも四半期に一度は見直す必要があります。AIモデル、サポートのワークフロー、製品、プライバシーに関するルール、規制上の義務、顧客向けの規約に大きな変更があった後にも見直します。リスクの高いAIのワークフローでは、さらに高い頻度での見直しが必要になる場合があります。
有用なAIガバナンスの指標には、AIが対応した問い合わせの解決品質、担当者への引き継ぎ判断の正確さ、ハルシネーションの発生率、顧客満足度、担当者がAIの提案を修正または不採用にした割合があります。規定の遵守状況、コンプライアンスに関わるインシデントの件数、バイアスの検出件数、監査ログの網羅性、インシデントの解決にかかった時間も指標になります。サポート部門は、CX指標とガバナンス指標の両方を追跡する必要があります。
はい、AIガバナンスは法規制への対応に役立ちます。コンプライアンスの取り組みを支える文書、管理策、監視、説明責任の体制が、AIガバナンスによって整うためです。ただし、ガバナンスだけでコンプライアンスが保証されるわけではありません。ガバナンスが提供するのは、リスクを分類し、データに関する管理策を徹底し、判断を記録し、インシデントに対応するための体系的な方法です。
信頼できるAIサポートは、明確なガードレールから始まる カスタマーサービスにおけるAIガバナンスを整えれば、リスクを伴う実験だったAIの活用が、信頼できる運用になります。データの利用範囲、責任の所在、テスト、監視、開示、担当者への引き継ぎ、AIの動作中に働く制御を定めることで、信頼を損なわずにサポートを迅速化できます。
適切なガバナンスの枠組みがあれば、AIエージェントが解決できる問い合わせは増え、担当者は人ならではの価値を発揮できる対応に集中できます。顧客が受けるサポートの安全性と一貫性も高まります。Zendeskが、ガバナンスの効いたAI体験をサポート業務全体で実現するうえでどう役立つかは、無料トライアル
