Model Card de IA
O que é Model Card de IA?
Model Card de IADocumento padronizado, introduzido por Margaret Mitchell e colegas em 2018, que descreve o uso pretendido, dados de treino, desempenho, limitacoes e consideracoes eticas de um modelo de ML.
As model cards surgiram no artigo de 2018 "Model Cards for Model Reporting" de Margaret Mitchell et al. na Google. Padronizam o reporte transparente de modelos de ML com seccoes sobre usos previstos e fora do ambito, dados de treino e avaliacao, desempenho quantitativo desagregado por segmentos demograficos ou operacionais, consideracoes eticas conhecidas e recomendacoes. Fornecedores como Google, Hugging Face, OpenAI, Meta e Microsoft publicam model cards para os seus modelos, e o formato sustenta requisitos de transparencia do AI Act europeu e do NIST AI Risk Management Framework dos EUA. Em seguranca, as model cards ajudam os defensores a perceber a superficie de ataque, a linhagem dos dados e modos de falha conhecidos, e apoiam due diligence antes da integracao de um modelo de terceiros num produto.
● Exemplos
- 01
Uma model card no Hugging Face listando dados de treino, licenca, avaliacoes de vies e casos de uso recomendados.
- 02
Checklist de due diligence que exige uma model card publicada antes de aprovar um add-on de IA generativa.
● Perguntas frequentes
O que é Model Card de IA?
Documento padronizado, introduzido por Margaret Mitchell e colegas em 2018, que descreve o uso pretendido, dados de treino, desempenho, limitacoes e consideracoes eticas de um modelo de ML. Pertence à categoria Segurança de IA e ML da cibersegurança.
O que significa Model Card de IA?
Documento padronizado, introduzido por Margaret Mitchell e colegas em 2018, que descreve o uso pretendido, dados de treino, desempenho, limitacoes e consideracoes eticas de um modelo de ML.
Como se defender contra Model Card de IA?
As defesas contra Model Card de IA costumam combinar controles técnicos e práticas operacionais, conforme detalhado na definição acima.
Quais são outros nomes para Model Card de IA?
Nomes alternativos comuns: Model card, Ficha de modelo.