Что такое Карта AI-модели (Model Card)? Значение, определение и примеры

Что такое Карта AI-модели (Model Card)?

Карта AI-модели (Model Card)Стандартизованный документ, предложенный Margaret Mitchell с соавторами в 2018 году, описывающий назначение, данные обучения, производительность, ограничения и этические аспекты ML-модели.

Model cards впервые предложены в работе 2018 года «Model Cards for Model Reporting» (arXiv:1810.03993) Margaret Mitchell и коллег в Google и позже представлены на конференции ACM FAccT (тогда FAT*) 2019 года. Они стандартизуют прозрачную отчётность по ML-моделям с разделами о целевых и нерекомендованных применениях, данных обучения и оценки, количественной производительности в разбивке по демографическим и операционным срезам, известных этических соображениях и рекомендациях. Google, Hugging Face, OpenAI, Meta и Microsoft публикуют model cards, а на Hugging Face карта — это просто README.md с YAML-метаданными (license, datasets, metrics), питающими поиск и фильтрацию Hub.

Формат подкрепляет регуляторную прозрачность: EU AI Act требует технической документации для высокорисковых и универсальных моделей, а NIST AI Risk Management Framework (AI RMF 1.0) считает документирование модели ключевой практикой «Map/Measure». С точки зрения безопасности model card — это артефакт цепочки поставок, близкий к AI Bill of Materials (AI-BOM), позволяющий оценить происхождение данных, лицензионный риск и известные режимы отказа до интеграции сторонней модели.

Но карты самозаявлены и не подписаны: они бывают устаревшими, неполными или прямо сфальсифицированными, поэтому это лишь отправная точка для due diligence, а не доказательство безопасности. Сочетание model cards с подписанным происхождением (например, Content Credentials C2PA, подписанные Sigstore веса) и независимой red-team-оценкой закрывает этот пробел доверия.

flowchart TD
  T[Модель обучена / дообучена] --> A[Автор пишет model card]
  A --> S1[Целевые и нерекомендованные применения]
  A --> S2[Данные обучения / оценки и лицензия]
  A --> S3[Метрики по срезам]
  A --> S4[Этические аспекты и безопасность]
  S1 & S2 & S3 & S4 --> C[Опубликованная model card / README.md]
  C --> R{Due diligence потребителя}
  R -->|соответствует| G[AI-управление, EU AI Act, NIST AI RMF]
  R -->|проверять через| V[Подписанное происхождение + red-team-обзор]

● Примеры

Model card на Hugging Face с описанием данных обучения, лицензии, оценок смещений и рекомендованных сценариев.

Чек-лист due diligence требует наличия публичной model card до одобрения интеграции generative-AI плагина.

● Частые вопросы

Что такое Карта AI-модели (Model Card)?

Стандартизованный документ, предложенный Margaret Mitchell с соавторами в 2018 году, описывающий назначение, данные обучения, производительность, ограничения и этические аспекты ML-модели. Относится к категории Безопасность ИИ и ML в кибербезопасности.

Что означает Карта AI-модели (Model Card)?

Как защититься от Карта AI-модели (Model Card)?

Защита от Карта AI-модели (Model Card) обычно сочетает технические меры и операционные практики, как описано в определении выше.

Какие есть другие названия Карта AI-модели (Model Card)?

Распространённые альтернативные названия: Model card, Карта ML-модели.

Карта AI-модели (Model Card)