Model Card de IA.

As model cards surgiram no artigo de 2018 "Model Cards for Model Reporting" (arXiv:1810.03993) de Margaret Mitchell et al. na Google, apresentado depois na conferência ACM FAccT (então FAT*) de 2019. Padronizam o reporte transparente de modelos de ML com secções sobre usos previstos e fora do âmbito, dados de treino e avaliação, desempenho quantitativo desagregado por segmentos demográficos ou operacionais, considerações éticas conhecidas e recomendações. Fornecedores como Google, Hugging Face, OpenAI, Meta e Microsoft publicam model cards, e no Hugging Face a ficha é simplesmente o README.md com metadados YAML (license, datasets, metrics) que alimentam a pesquisa e a filtragem do Hub.

O formato sustenta a transparência regulatória: o Regulamento de IA da UE exige documentação técnica para modelos de alto risco e de uso geral, e o NIST AI Risk Management Framework (AI RMF 1.0) trata a documentação do modelo como prática central de "Map/Measure". Do ponto de vista da segurança, uma model card é um artefacto da cadeia de fornecimento — próximo de uma AI Bill of Materials (AI-BOM) — que permite raciocinar sobre a linhagem dos dados, o risco de licença e os modos de falha conhecidos antes de integrar um modelo de terceiros.

Mas as fichas são autodeclaradas e não assinadas: podem estar desatualizadas, incompletas ou falsificadas, sendo por isso um ponto de partida para due diligence, não uma prova de segurança. Combinar model cards com proveniência assinada (p. ex. Content Credentials C2PA, pesos assinados com Sigstore) e avaliação independente de red team fecha essa lacuna de confiança.

flowchart TD
  T[Modelo treinado / afinado] --> A[O autor redige a model card]
  A --> S1[Usos previstos e fora do âmbito]
  A --> S2[Dados de treino / avaliação e licença]
  A --> S3[Métricas de desempenho por segmento]
  A --> S4[Considerações éticas e de segurança]
  S1 & S2 & S3 & S4 --> C[Model card publicada / README.md]
  C --> R{Due diligence do consumidor}
  R -->|alinha com| G[Governança de IA, Regulamento IA UE, NIST AI RMF]
  R -->|verificar com| V[Proveniência assinada + revisão red team]