AI 事件响应.

组织用于检测、遏制、调查、通报与恢复涉及 AI 系统的事件的一整套流程、角色与剧本。 它属于网络安全的 AI 与机器学习安全 分类。

组织用于检测、遏制、调查、通报与恢复涉及 AI 系统的事件的一整套流程、角色与剧本。

AI 事件响应在传统事件响应(NIST SP 800-61)的基础上,扩展到 AI 特有的事件:提示词注入滥用、代理失控、生产环境的越狱、规模化的有害或偏差输出、训练数据泄露、模型窃取、供应链入侵,以及由自主决策引发的物理或财务损失。响应活动借助 AIBOM 定位受影响系统、模型注册中心进行回滚、提示与输出日志进行取证、红队场景做分级。监管要求趋于明确:欧盟《人工智能法》要求报告高风险 AI 重大事件,经合组织 AI Incidents Monitor 与美国 AI Safety Institute 也发布了分类体系。成熟项目把 AI 事件与 SOC、隐私、法务和 trust and safety 工作流整合。

针对 AI 事件响应 的防御通常结合技术控制与运营实践,详见上方完整定义。

常见的别称包括: AI IR, 生成式 AI 事件响应。