AIエージェントは、質問に答えるだけの生成AIと異なり、外部ツールを使い、情報を取得し、複数ステップの作業を自律的に進めることがあります。
便利になる一方、メール送信、ファイル編集、顧客データ参照、システム操作など「実世界への影響」が大きくなります。
Japan AISIは2026年7月に評価観点ガイド第1.20版を公表し、AIエージェント特有の観点として「観測と制御」や、外部環境との相互作用等を追加しています。IPAもAIエージェントを含む安全な活用手引きを公表しています。
先に結論:最初は「自動化範囲を狭くする」
導入初期から、
・顧客へ自動送信
・本番データ削除
・支払い
・契約変更
・管理者権限
を任せるべきではありません。
まずは読み取り、下書き、提案など、人が最終確認できる範囲から始めます。
7つの確認項目
1. 何をさせるか
「事務を効率化する」では広すぎます。
良い例:
毎朝、サポートメールを分類し、返信案を作り、担当者へ提示する。送信は人が行う。
開始点、終了点、成果物、人の確認点を定義します。
2. どの権限を持たせるか
必要最小限にします。
メール:閲覧のみか、下書きか、送信可能か。
Drive:特定フォルダのみか。
CRM:閲覧か更新か。
Git:読み取りかコミットか。
「できること」を一覧化します。
3. どのデータへアクセスするか
顧客情報、社員情報、契約書、機密資料などを分類し、利用可否を決めます。
AIエージェントは複数システムを横断できるため、単体ツールより情報の組み合わせに注意が必要です。
4. 外部からの指示をどう扱うか
Webページ、メール、ファイルなどに、AIへ意図しない指示を与える情報が含まれる可能性があります。
外部コンテンツをそのまま「命令」として実行しない設計、重要操作前の確認が必要です。
5. 何をログに残すか
最低限、
・誰が起動したか
・何を入力したか
・どのツールを使ったか
・何を変更したか
・人が何を承認したか
を追えるようにします。
6. どこで人が承認するか
重要度に応じて段階を分けます。
低:社内文章の要約→自動でも可
中:社外メール下書き→人が確認
高:送金・契約・削除→人の明示承認必須
7. 止める条件を決める
想定外の操作、権限外アクセス、個人情報の不適切な送信、異常な連続操作などが起きた場合の停止条件を定めます。
架空ケース:問い合わせ対応エージェント
対象:問い合わせメールの分類・返信案。
アクセス:専用受信箱、FAQ、商品情報。
禁止:顧客DBの書き換え、送信、返金判断。
ログ:参照メール、参照FAQ、生成案、担当者修正。
承認:担当者が送信ボタンを押す。
停止:FAQにない金額・契約条件を生成した場合。
この形なら、効果とリスクを分けて検証できます。
導入前チェックリスト
□対象業務が一文で説明できる
□権限一覧がある
□利用データを分類した
□外部入力の扱いを決めた
□重要操作に人の承認がある
□ログが残る
□停止方法がある
□異常時の責任者が決まっている
□テスト環境で試した
□本番移行後の見直し日を決めた
2週間の試験例
1〜2日:対象・権限・停止条件を決める。
3〜5日:架空データで正常ケース。
6〜8日:例外・誤入力・外部指示を含むケース。
9日:ログと確認負荷を評価。
10日:限定継続・再設計・停止を判断。
2週間は説明用の例で、公式基準ではありません。
AIチャットとの違い
チャットAIは回答を提示するだけなら影響範囲が限定されます。エージェントはツール操作や外部システム連携を持つため、「回答の正しさ」だけでなく「行動の安全性」を評価する必要があります。
今日できるアクション
導入したいAIエージェントについて、アクセスするシステムをすべて書き出し、各システムで「読む・作る・更新する・削除する」のどこまで許可するかを表にしてください。
まとめ
AIエージェント導入では、性能評価より先に、権限、データ、外部入力、人の承認、ログ、停止条件を設計する必要があります。最初から完全自動化を目指すのではなく、人が確認できる小さな範囲から始めることが現実的です。
公式参考資料
・Japan AISI「AIセーフティに関する評価観点ガイド 第1.20版」 https://aisi.go.jp/output/output_information/260707/
・IPA「セキュリティ担当者のための生成AIセキュリティ」 https://www.ipa.go.jp/jinzai/ics/core_human_resource/final_project/2026/ai-security.html
・IPA「AIセキュリティ短信」 https://www.ipa.go.jp/digital/ai/security/ai-security-bulletin.html
・経済産業省「第10回産業サイバーセキュリティ研究会 資料:AIエージェント利活用に伴うリスクへの対応」(2026年4月3日) https://www.meti.go.jp/press/2026/04/20260403003/20260403003-b.pdf
コメント