AI インシデント対応.

AI システムに関わるインシデントの検知・封じ込め・調査・周知・復旧のために組織が用いるプロセス・役割・プレイブックの総体。 サイバーセキュリティの AI / ML セキュリティ カテゴリに属します。

AI システムに関わるインシデントの検知・封じ込め・調査・周知・復旧のために組織が用いるプロセス・役割・プレイブックの総体。

AI インシデント対応は、従来のインシデント対応(NIST SP 800-61)を AI 特有の事象へ拡張します。プロンプトインジェクション悪用、エージェント暴走、本番でのジェイルブレイク、大規模に発生する有害/偏向出力、学習データの漏えい、モデル窃取、サプライチェーン侵害、自律意思決定による物理的・金銭的被害などが対象です。対応では AIBOM で影響範囲を特定し、モデルレジストリでロールバックし、プロンプトと出力ログでフォレンジックを行い、レッドチームのシナリオでトリアージします。規制も明確化が進み、EU AI Act は高リスク AI の重大インシデント報告を義務付け、OECD AI Incidents Monitor や米 AI Safety Institute は分類体系を公開しています。成熟したプログラムは AI インシデントを SOC・プライバシー・法務・トラスト&セーフティのワークフローに統合します。

AI インシデント対応 に対する防御は通常、上記の定義で述べたとおり、技術的統制と運用上の実践を組み合わせます。

一般的な別名: AI IR, 生成 AI インシデント対応。