AI モデルカード.

モデルカードは、Google の Margaret Mitchell ら(2018 年)の論文 「Model Cards for Model Reporting」(arXiv:1810.03993)で提案され、のちに 2019 年の ACM FAccT(当時は FAT*)会議で発表されました。ML モデルに対する透明な情報開示のテンプレートを定義し、想定用途と非対象用途、訓練・評価データ、属性や運用条件で分解した性能、既知の倫理的論点、推奨事項などのセクションを備えます。Google・Hugging Face・OpenAI・Meta・Microsoft などの主要プロバイダがモデルカードを公開しており、Hugging Face ではモデルカードは YAML メタデータ(license・datasets・metrics)付きの README.md そのもので、Hub の検索とフィルタリングを支えています。

この形式は規制上の透明性を裏打ちします。EU AI 法は高リスクおよび汎用モデルに技術文書を要求し、**NIST AI Risk Management Framework(AI RMF 1.0)**はモデル文書化を中核の「Map/Measure」実践と位置づけます。セキュリティの観点では、モデルカードは **AI 部品表(AI-BOM)**にも通じるサプライチェーン成果物であり、外部モデルを組み込む前にデータ来歴・ライセンスリスク・既知の失敗モードを検討する助けになります。

ただしカードは自己申告かつ未署名であり、古かったり不完全だったり、改ざんされている可能性もあるため、安全性の証明ではなくデューデリジェンスの出発点にすぎません。モデルカードを署名付きの来歴(例:C2PA コンテンツ認証、Sigstore で署名された重み)や独立したレッドチーム評価と組み合わせることで、この信頼のギャップを埋められます。

flowchart TD
  T[モデルの訓練 / ファインチューニング完了] --> A[作成者がモデルカードを記述]
  A --> S1[想定用途と非対象用途]
  A --> S2[訓練 / 評価データとライセンス]
  A --> S3[スライス別の性能指標]
  A --> S4[倫理と安全性の考察]
  S1 & S2 & S3 & S4 --> C[公開モデルカード / README.md]
  C --> R{利用側のデューデリジェンス}
  R -->|対応づけ| G[AI ガバナンス・EU AI 法・NIST AI RMF]
  R -->|検証手段| V[署名付き来歴 + レッドチームレビュー]