AI 治理.

组织和监管机构用于确保 AI 系统以负责任、合法方式开发、部署与运营的政策、流程、角色与控制的总和。 它属于网络安全的 AI 与机器学习安全 分类。

组织和监管机构用于确保 AI 系统以负责任、合法方式开发、部署与运营的政策、流程、角色与控制的总和。

AI 治理将伦理原则与法律义务转化为具体控制:模型清单、风险分级、影响评估、审批关卡、透明性、监控与问责。常用参考框架包括 NIST AI Risk Management Framework(AI RMF)及其 600-1 生成式 AI 画像、ISO/IEC 42001 管理体系标准、经合组织 AI 原则、欧盟《人工智能法》以及英美 AI Safety Institute 的评估方法。治理职能横跨法务、合规、安全、隐私、ML 工程与产品。成熟的项目会维护 AI Bill of Materials,定期开展红队与偏差评估,记录每个生产模型版本,并具备结构化的事件响应和审计能力,以满足监管和客户要求。

针对 AI 治理 的防御通常结合技术控制与运营实践,详见上方完整定义。

常见的别称包括: AI 风险管理, 负责任 AI 治理。