AI 模型卡(Model Card).

模型卡(model card)源自 2018 年 Margaret Mitchell 等人在 Google 发表的论文 《Model Cards for Model Reporting》(arXiv:1810.03993),后于 2019 年 ACM FAccT(当时称 FAT*)会议上发表。它为机器学习模型提供了透明的报告范式,内容包含预期用途与不适用场景、训练与评估数据、按人口或业务切片划分的量化性能指标、已知伦理考量以及使用建议。Google、Hugging Face、OpenAI、Meta、Microsoft 等主流厂商都会发布模型卡;在 Hugging Face 上,模型卡其实就是带有 YAML 元数据(license、datasets、metrics)的 README.md,并驱动 Hub 的搜索与筛选。

该格式支撑监管透明度:**欧盟《人工智能法案》**要求高风险和通用模型提供技术文档,**NIST AI 风险管理框架(AI RMF 1.0)**将模型文档作为「Map/Measure」的核心实践。从安全角度看,模型卡是一种供应链工件——与 **AI 物料清单(AI-BOM)**相关——让防御方在引入第三方模型前评估数据来源、许可风险和已知失效模式。

但模型卡是自我申报且未经签名的:它可能过时、不完整,甚至被伪造,因此它是尽职调查的起点,而非安全性证明。将模型卡与经签名的来源凭证(如 C2PA 内容凭据、用 Sigstore 签名的权重)以及独立的红队评估相结合,才能弥合这一信任缺口。

flowchart TD
  T[模型训练 / 微调完成] --> A[作者撰写模型卡]
  A --> S1[预期用途与不适用场景]
  A --> S2[训练 / 评估数据与许可证]
  A --> S3[按切片划分的性能指标]
  A --> S4[伦理与安全考量]
  S1 & S2 & S3 & S4 --> C[发布模型卡 / README.md]
  C --> R{使用方尽职调查}
  R -->|对应| G[AI 治理、欧盟 AI 法案、NIST AI RMF]
  R -->|据此验证| V[签名来源凭证 + 红队评审]