Карта AI-модели (Model Card).

Стандартизованный документ, предложенный Margaret Mitchell с соавторами в 2018 году, описывающий назначение, данные обучения, производительность, ограничения и этические аспекты ML-модели. Относится к категории Безопасность ИИ и ML в кибербезопасности.

Стандартизованный документ, предложенный Margaret Mitchell с соавторами в 2018 году, описывающий назначение, данные обучения, производительность, ограничения и этические аспекты ML-модели.

Model cards впервые предложены в работе 2018 года «Model Cards for Model Reporting» Margaret Mitchell и коллег в Google. Они стандартизуют прозрачную отчётность по ML-моделям с разделами о целевых и нерекомендованных применениях, данных обучения и оценки, количественной производительности по демографическим и операционным срезам, известных этических соображениях и рекомендациях. Google, Hugging Face, OpenAI, Meta, Microsoft и другие крупные поставщики публикуют model cards к своим моделям, и этот формат лежит в основе требований прозрачности EU AI Act и NIST AI Risk Management Framework. С точки зрения безопасности model cards помогают понять поверхность атаки, происхождение данных и известные режимы отказа, поддерживая due diligence перед интеграцией стороннней модели в продукт.

Защита от Карта AI-модели (Model Card) обычно сочетает технические меры и операционные практики, как описано в определении выше.

Распространённые альтернативные названия: Model card, Карта ML-модели.