境界の整理
利用者、権限、データ、操作、接続先、ツールを棚卸しし、守るべき境界を図にします。
Diagnostic Service境界を実際に越えようとして、
境界を実際に越えようとして、
止まれるかを試す。
設定や方針の確認だけではなく、利用者と同じ画面から危険な要求を与え、AIの判断、検索、ツール実行、通信、証跡を確認します。
ブラックボックス診断を中心に、必要箇所だけログ・設定で裏付けます。
Service Definition
本サービスで行うこと
AIエージェントの「賢さ」ではなく、権限と業務範囲の境界が実際に機能するかを評価します。
シナリオ設計
正常、越権、曖昧、迂回、外部指示、異常状態を、業務に合わせた要求として作成します。
実行・観測
チャット、業務画面、API、RAG、ツールを操作し、回答だけでなく実際の到達・実行を確認します。
証跡と判定
要求、判定、参照先、操作、拒否、エラーを時系列で整理し、再現条件と影響を判定します。
改善提案
権限縮小、認可ゲート、ツール制限、宛先制御、承認、ログ強化などの対策を提示します。
再診断
改修後、同じシナリオを再実行し、境界が改善されたかを比較します。
Black-box First
まず利用者の画面から試し、必要な範囲だけ裏側を確認します。
危険な依頼を入力通常のチャット・業務画面
→AIの反応を観測回答・ツール選択・確認要求
→越えた境界を特定データ・操作・通信・判断
→必要なログで裏付け該当時刻と対象だけ
原則不要： APIキーの一括提供、設定ファイル全量、数日分の全ログ、数十GBのデータ。
Deliverables
専門的なログ一覧ではなく、境界と改善策が分かる成果物。
診断計画書
対象・対象外、前提、アカウント、シナリオ、停止条件。
境界マップ
利用者からデータ・API・ツール・通信先までの到達関係。
診断結果一覧
試した要求、期待結果、実結果、再現性、危険度。
証跡
画面、時刻、要求、判定、実行有無、必要最小限のログ。
改善提案
即時対応、設計見直し、運用改善、再試験項目。
報告会
経営・監査・情シス・開発へ、業務リスクとして説明。
Difference
一般的な診断との違い
| 比較対象 | 一般的な中心領域 | AIエージェント境界診断 |
|---|---|---|
| AIコンサル | 方針・ユースケース・ガバナンス | 実際に要求し、到達・操作・拒否を確認 |
| ペネトレーションテスト | 脆弱性の悪用・侵入 | 正規権限と正規機能による想定外到達 |
| 製品設定診断 | 特定製品の設定 | モデル、エージェント、認証、API、ネットワークを横断 |
| SIEM／SOC | 継続監視・事故検知 | 危険な要求を意図的に与え、事前に止まるか確認 |
Service Guide
診断対象・対象外へ →対象・料金・情報の取り扱いを順に確認できます。
診断の範囲を確認した後、規模に合うプランと情報セキュリティ方針をご覧ください。