Model Card de IA
¿Qué es Model Card de IA?
Model Card de IADocumento estandarizado, propuesto por Margaret Mitchell y colegas en 2018, que describe el uso previsto, datos de entrenamiento, rendimiento, limitaciones y consideraciones éticas de un modelo de ML.
Las model cards se propusieron en el artículo de 2018 "Model Cards for Model Reporting" (arXiv:1810.03993) de Margaret Mitchell et al. en Google, presentado luego en la conferencia ACM FAccT (entonces FAT*) de 2019. Estandarizan un reporte transparente para modelos de ML con secciones como usos previstos y fuera de alcance, datos de entrenamiento y evaluación, rendimiento cuantitativo desagregado por segmentos demográficos u operativos, consideraciones éticas conocidas y recomendaciones. Grandes proveedores —Google, Hugging Face, OpenAI, Meta y Microsoft— publican model cards, y en Hugging Face la ficha es simplemente el README.md con metadatos YAML (license, datasets, metrics) que alimentan la búsqueda y el filtrado del Hub.
El formato sustenta la transparencia regulatoria: el Reglamento de IA de la UE exige documentación técnica para modelos de alto riesgo y de propósito general, y el NIST AI Risk Management Framework (AI RMF 1.0) trata la documentación del modelo como práctica central de "Map/Measure". Desde la seguridad, una model card es un artefacto de la cadena de suministro —afín a un AI Bill of Materials (AI-BOM)— que permite razonar sobre el linaje de datos, el riesgo de licencia y los modos de fallo conocidos antes de integrar un modelo de terceros.
Pero las fichas son autoinformadas y sin firmar: pueden estar desactualizadas, incompletas o falsificadas, así que son un punto de partida para la due diligence, no una prueba de seguridad. Combinar model cards con procedencia firmada (p. ej. credenciales de contenido C2PA, pesos firmados con Sigstore) y evaluación independiente de red team cierra esa brecha de confianza.
flowchart TD
T[Modelo entrenado / ajustado] --> A[El autor redacta la model card]
A --> S1[Usos previstos y fuera de alcance]
A --> S2[Datos de entrenamiento / evaluación y licencia]
A --> S3[Métricas de rendimiento por segmento]
A --> S4[Consideraciones éticas y de seguridad]
S1 & S2 & S3 & S4 --> C[Model card publicada / README.md]
C --> R{Due diligence del consumidor}
R -->|se alinea con| G[Gobernanza de IA, Reglamento IA UE, NIST AI RMF]
R -->|verificar con| V[Procedencia firmada + revisión red team]● Ejemplos
- 01
Model card en Hugging Face que enumera datos de entrenamiento, licencia, evaluaciones de sesgo y casos de uso recomendados.
- 02
Checklist de due diligence que exige una model card publicada antes de aprobar un add-on de IA generativa.
● Preguntas frecuentes
¿Qué es Model Card de IA?
Documento estandarizado, propuesto por Margaret Mitchell y colegas en 2018, que describe el uso previsto, datos de entrenamiento, rendimiento, limitaciones y consideraciones éticas de un modelo de ML. Pertenece a la categoría de Seguridad de IA y ML en ciberseguridad.
¿Qué significa Model Card de IA?
Documento estandarizado, propuesto por Margaret Mitchell y colegas en 2018, que describe el uso previsto, datos de entrenamiento, rendimiento, limitaciones y consideraciones éticas de un modelo de ML.
¿Cómo defenderse de Model Card de IA?
Las defensas contra Model Card de IA combinan habitualmente controles técnicos y prácticas operativas, como se detalla en la definición.
¿Cuáles son otros nombres para Model Card de IA?
Nombres alternativos comunes: Model card, Tarjeta de modelo.