Model Card IA.

Document standardise, introduit par Margaret Mitchell et collegues en 2018, qui decrit l'usage prevu, les donnees d'entrainement, la performance, les limites et les considerations ethiques d'un modele ML. Cette notion relève de la catégorie Sécurité de l'IA et du ML en cybersécurité.

Document standardise, introduit par Margaret Mitchell et collegues en 2018, qui decrit l'usage prevu, les donnees d'entrainement, la performance, les limites et les considerations ethiques d'un modele ML.

Les model cards proviennent de l'article "Model Cards for Model Reporting" publie en 2018 par Margaret Mitchell et al. chez Google. Elles standardisent un reporting transparent des modeles ML avec des sections couvrant les usages prevus et hors-perimetre, les donnees d'entrainement et d'evaluation, des metriques de performance ventilees par tranche demographique ou operationnelle, les considerations ethiques connues et les recommandations. Google, Hugging Face, OpenAI, Meta, Microsoft, entre autres, publient des model cards pour leurs modeles, et ce format sous-tend les exigences de transparence de l'AI Act europeen et du NIST AI Risk Management Framework americain. Du point de vue securite, les model cards aident les defenseurs a comprendre la surface d'attaque, le lineage des donnees et les modes de defaillance connus, et soutiennent la due diligence avant d'integrer un modele tiers.

Les défenses contre Model Card IA combinent habituellement des contrôles techniques et des pratiques opérationnelles, comme détaillé dans la définition ci-dessus.

Noms alternatifs courants : Model card, Fiche de modele.