Model Card IA
Qu'est-ce que Model Card IA ?
Model Card IADocument standardisé, introduit par Margaret Mitchell et collègues en 2018, qui décrit l'usage prévu, les données d'entraînement, la performance, les limites et les considérations éthiques d'un modèle ML.
Les model cards proviennent de l'article de 2018 « Model Cards for Model Reporting » (arXiv:1810.03993) de Margaret Mitchell et al. chez Google, présenté ensuite à la conférence ACM FAccT (alors FAT*) de 2019. Elles standardisent un reporting transparent des modèles ML avec des sections couvrant les usages prévus et hors-périmètre, les données d'entraînement et d'évaluation, des métriques de performance ventilées par tranche démographique ou opérationnelle, les considérations éthiques connues et les recommandations. Google, Hugging Face, OpenAI, Meta et Microsoft publient des model cards, et sur Hugging Face la fiche est simplement le README.md avec des métadonnées YAML (license, datasets, metrics) qui alimentent la recherche et le filtrage du Hub.
Le format sous-tend la transparence réglementaire : le règlement IA européen (AI Act) exige une documentation technique pour les modèles à haut risque et à usage général, et le NIST AI Risk Management Framework (AI RMF 1.0) traite la documentation du modèle comme une pratique centrale « Map/Measure ». Côté sécurité, une model card est un artefact de la chaîne d'approvisionnement — proche d'un AI Bill of Materials (AI-BOM) — qui permet de raisonner sur le lineage des données, le risque de licence et les modes de défaillance connus avant d'intégrer un modèle tiers.
Mais les fiches sont auto-déclarées et non signées : elles peuvent être obsolètes, incomplètes ou falsifiées ; ce n'est donc qu'un point de départ pour la due diligence, pas une preuve de sûreté. Associer les model cards à une provenance signée (p. ex. Content Credentials C2PA, poids signés avec Sigstore) et à une évaluation red team indépendante comble ce déficit de confiance.
flowchart TD
T[Modèle entraîné / fine-tuné] --> A[L'auteur rédige la model card]
A --> S1[Usages prévus et hors-périmètre]
A --> S2[Données d'entraînement / éval et licence]
A --> S3[Métriques de performance par tranche]
A --> S4[Considérations éthiques et de sûreté]
S1 & S2 & S3 & S4 --> C[Model card publiée / README.md]
C --> R{Due diligence du consommateur}
R -->|s'aligne sur| G[Gouvernance IA, AI Act UE, NIST AI RMF]
R -->|vérifier avec| V[Provenance signée + revue red team]● Exemples
- 01
Une model card sur Hugging Face listant données d'entraînement, licence, évaluations de biais et cas d'usage recommandés.
- 02
Une checklist de due diligence fournisseur exigeant une model card publiée avant d'approuver un add-on IA générative.
● Questions fréquentes
Qu'est-ce que Model Card IA ?
Document standardisé, introduit par Margaret Mitchell et collègues en 2018, qui décrit l'usage prévu, les données d'entraînement, la performance, les limites et les considérations éthiques d'un modèle ML. Cette notion relève de la catégorie Sécurité de l'IA et du ML en cybersécurité.
Que signifie Model Card IA ?
Document standardisé, introduit par Margaret Mitchell et collègues en 2018, qui décrit l'usage prévu, les données d'entraînement, la performance, les limites et les considérations éthiques d'un modèle ML.
Comment se défendre contre Model Card IA ?
Les défenses contre Model Card IA combinent habituellement des contrôles techniques et des pratiques opérationnelles, comme détaillé dans la définition ci-dessus.
Quels sont les autres noms de Model Card IA ?
Noms alternatifs courants : Model card, Fiche de modèle.