エージェント型 AI のセキュリティ.

計画立案・ツール呼び出し・実システムへの作用を自律的に行う LLM エージェントを守るための分野。プロンプトインジェクションが遠隔コード実行に、過剰な権限が現実の被害範囲に直結する。 サイバーセキュリティの AI / ML セキュリティ カテゴリに属します。

計画立案・ツール呼び出し・実システムへの作用を自律的に行う LLM エージェントを守るための分野。プロンプトインジェクションが遠隔コード実行に、過剰な権限が現実の被害範囲に直結する。

エージェント型 AI のセキュリティは、大規模言語モデルが「回答するだけ」から「行動する」段階——ツール呼び出し、ウェブ閲覧、ファイル書き込み、メール送信、トランザクション実行——に踏み込んだときに必要となる管理策、脅威モデル、ランタイムガードレールを扱う領域です。チャットのみの LLM と異なり、エージェントの非信頼入力(取得したページ、ツール出力、マルチモーダル素材)は次の判断にそのまま流れ込むため、一度の間接プロンプトインジェクションがデータ流出、アカウント乗っ取り、破壊的操作へと一気に発展しうる。実効性のあるプログラムでは、最小権限のツールスコープ、サンドボックス実行、構造化出力の検証、影響度の高い操作に対する人手チェックポイント、許可リスト方式のツール管理、隔離されたブラウジングコンテキスト、外部送信パターンやポリシー外のツール呼び出し系列など振る舞いの逸脱検知を組み合わせます。2025〜2026 年現在、エージェント型 AI のセキュリティは AI セキュリティ領域で最も急成長している分野であり、Anthropic Claude のツール利用、OpenAI の Operator 系エージェント、MCP ベースの企業向けエージェントランタイムがその牽引役となっています。

エージェント型 AI のセキュリティ に対する防御は通常、上記の定義で述べたとおり、技術的統制と運用上の実践を組み合わせます。

一般的な別名: LLM エージェントセキュリティ, 自律エージェントセキュリティ。