Model Card de IA.

Documento padronizado, introduzido por Margaret Mitchell e colegas em 2018, que descreve o uso pretendido, dados de treino, desempenho, limitacoes e consideracoes eticas de um modelo de ML. Pertence à categoria Segurança de IA e ML da cibersegurança.

Documento padronizado, introduzido por Margaret Mitchell e colegas em 2018, que descreve o uso pretendido, dados de treino, desempenho, limitacoes e consideracoes eticas de um modelo de ML.

As model cards surgiram no artigo de 2018 "Model Cards for Model Reporting" de Margaret Mitchell et al. na Google. Padronizam o reporte transparente de modelos de ML com seccoes sobre usos previstos e fora do ambito, dados de treino e avaliacao, desempenho quantitativo desagregado por segmentos demograficos ou operacionais, consideracoes eticas conhecidas e recomendacoes. Fornecedores como Google, Hugging Face, OpenAI, Meta e Microsoft publicam model cards para os seus modelos, e o formato sustenta requisitos de transparencia do AI Act europeu e do NIST AI Risk Management Framework dos EUA. Em seguranca, as model cards ajudam os defensores a perceber a superficie de ataque, a linhagem dos dados e modos de falha conhecidos, e apoiam due diligence antes da integracao de um modelo de terceiros num produto.

As defesas contra Model Card de IA costumam combinar controles técnicos e práticas operacionais, conforme detalhado na definição acima.

Nomes alternativos comuns: Model card, Ficha de modelo.