AI Bill of Materials (AIBOM)
Что такое AI Bill of Materials (AIBOM)?
AI Bill of Materials (AIBOM)Машиночитаемый перечень всех компонентов ИИ-системы — датасетов, базовых моделей, данных дообучения, библиотек, промптов и оценочных артефактов — используемый для безопасности, соответствия и подотчётности.
AIBOM расширяет концепцию SBOM на ИИ-системы. Инициативы — рабочая группа AIBOM CISA, AI-профиль SPDX 3, CycloneDX ML-BOM и требования к технической документации EU AI Act — задают метаданные: происхождение и лицензии датасетов, идентификаторы и версии базовой модели, рецепты дообучения, гиперпараметры, результаты оценок и известные ограничения. AIBOM позволяет отследить последствия отравленного датасета или базовой модели с бэкдором, подтвердить соответствие требованиям, управлять цепочкой поставок ИИ, поддерживать отзывы моделей и пополнять базы уязвимостей (OSV-AI, MITRE ATLAS). Зрелые программы MLSecOps генерируют AIBOM автоматически из обучающих пайплайнов и хранят их вместе с подписанными артефактами моделей.
● Примеры
- 01
Файл CycloneDX ML-BOM, прикреплённый к релизу модели, перечисляет базовую модель, датасеты и данные дообучения с их хешами.
- 02
AIBOM применяется в ходе реагирования на инцидент, чтобы выявить все продукты, затронутые уязвимой моделью эмбеддингов.
● Частые вопросы
Что такое AI Bill of Materials (AIBOM)?
Машиночитаемый перечень всех компонентов ИИ-системы — датасетов, базовых моделей, данных дообучения, библиотек, промптов и оценочных артефактов — используемый для безопасности, соответствия и подотчётности. Относится к категории Безопасность ИИ и ML в кибербезопасности.
Что означает AI Bill of Materials (AIBOM)?
Машиночитаемый перечень всех компонентов ИИ-системы — датасетов, базовых моделей, данных дообучения, библиотек, промптов и оценочных артефактов — используемый для безопасности, соответствия и подотчётности.
Как защититься от AI Bill of Materials (AIBOM)?
Защита от AI Bill of Materials (AIBOM) обычно сочетает технические меры и операционные практики, как описано в определении выше.
Какие есть другие названия AI Bill of Materials (AIBOM)?
Распространённые альтернативные названия: AIBOM, ML-BOM.