Entry № 032
AI 治理
AI 治理 是什么?
AI 治理组织和监管机构用于确保 AI 系统以负责任、合法方式开发、部署与运营的政策、流程、角色与控制的总和。
AI 治理将伦理原则与法律义务转化为具体控制:模型清单、风险分级、影响评估、审批关卡、透明性、监控与问责。常用参考框架包括 NIST AI Risk Management Framework(AI RMF)及其 600-1 生成式 AI 画像、ISO/IEC 42001 管理体系标准、经合组织 AI 原则、欧盟《人工智能法》以及英美 AI Safety Institute 的评估方法。治理职能横跨法务、合规、安全、隐私、ML 工程与产品。成熟的项目会维护 AI Bill of Materials,定期开展红队与偏差评估,记录每个生产模型版本,并具备结构化的事件响应和审计能力,以满足监管和客户要求。
● 示例
- 01
企业维护一份与欧盟《人工智能法》风险等级及 ISO/IEC 42001 控制相对应的模型清单。
- 02
内部 AI 评审委员会审批每一个高风险模型上线,其中必须包含红队与偏差评估证据。
● 常见问题
AI 治理 是什么?
组织和监管机构用于确保 AI 系统以负责任、合法方式开发、部署与运营的政策、流程、角色与控制的总和。 它属于网络安全的 AI 与机器学习安全 分类。
AI 治理 是什么意思?
组织和监管机构用于确保 AI 系统以负责任、合法方式开发、部署与运营的政策、流程、角色与控制的总和。
如何防御 AI 治理?
针对 AI 治理 的防御通常结合技术控制与运营实践,详见上方完整定义。
AI 治理 还有哪些其他名称?
常见的别称包括: AI 风险管理, 负责任 AI 治理。