過剰な権限(Excessive Agency).

過剰な権限(Excessive Agency)は、OWASP Top 10 for Large Language Model Applications の LLM06 に位置付けられる項目です。LLM ベースのシステムに、ユースケース上必要となる以上のツール・権限・自律性を持たせてしまったときに生じる被害クラスを指します。たとえば、本番の課金 API への書き込み権限を持つカスタマーサポートエージェントや、リポジトリの読み取りに加えてレビューなしで main へ直接 push できるコードアシスタントなどがこれに該当します。脆弱性はモデル自体ではなく、その周囲のシステム設計にあり、エージェントがプロンプトインジェクション・幻覚・単なる出力ミスなどで誤動作したとき、被害の広がりは付与されている権限の範囲によって決まります。緩和策は最小権限の原則に従い、各ツールを必要最小限のデータと操作にスコープし、不可逆な操作には人手承認を課し、可能な限り読み取り専用やステージング用ツールを優先し、計画モデルと実行モデルを分離し、ツール呼び出しを計装して異常なシーケンスが検知に上がるようにする、といった構成が定石です。