AI 模型卡(Model Card).

由 Margaret Mitchell 等人于 2018 年提出的标准化文档,描述机器学习模型的预期用途、训练数据、性能、局限性与伦理考量。 它属于网络安全的 AI 与机器学习安全 分类。

由 Margaret Mitchell 等人于 2018 年提出的标准化文档,描述机器学习模型的预期用途、训练数据、性能、局限性与伦理考量。

模型卡(model card)源自 2018 年 Margaret Mitchell 等人在 Google 发表的论文《Model Cards for Model Reporting》。它为机器学习模型提供了透明的报告范式,内容包含预期用途与不适用场景、训练与评估数据、按人口或业务切片划分的性能指标、已知伦理考量以及使用建议。Google、Hugging Face、OpenAI、Meta、Microsoft 等主流厂商都会为其模型发布模型卡;该格式也是欧盟 AI 法案和美国 NIST AI 风险管理框架透明度要求的基础之一。从安全角度看,模型卡有助于防御方理解攻击面、数据来源和已知失效模式,并支撑在引入第三方模型前的尽职调查。

针对 AI 模型卡(Model Card) 的防御通常结合技术控制与运营实践,详见上方完整定义。

常见的别称包括: Model Card, 模型说明卡。