AI Bill of Materials (AIBOM)
Что такое AI Bill of Materials (AIBOM)?
AI Bill of Materials (AIBOM)Машиночитаемый перечень всех компонентов ИИ-системы — датасетов, базовых моделей, данных дообучения, библиотек, промптов и оценочных артефактов — используемый для безопасности, соответствия и подотчётности.
AIBOM расширяет концепцию SBOM на ИИ-системы. Инициативы — рабочая группа AIBOM CISA, AI-профиль SPDX 3, CycloneDX ML-BOM и требования к технической документации EU AI Act — задают метаданные: происхождение и лицензии датасетов, идентификаторы и версии базовой модели, рецепты дообучения, гиперпараметры, результаты оценок и известные ограничения. AIBOM позволяет отследить последствия отравленного датасета или базовой модели с бэкдором, подтвердить соответствие требованиям, управлять цепочкой поставок ИИ, поддерживать отзывы моделей и пополнять базы уязвимостей (OSV-AI, MITRE ATLAS). Зрелые программы MLSecOps генерируют AIBOM автоматически из обучающих пайплайнов и хранят их вместе с подписанными артефактами моделей.
● Примеры
- 01
Файл CycloneDX ML-BOM, прикреплённый к релизу модели, перечисляет базовую модель, датасеты и данные дообучения с их хешами.
- 02
AIBOM применяется в ходе реагирования на инцидент, чтобы выявить все продукты, затронутые уязвимой моделью эмбеддингов.
● Частые вопросы
Что такое AI Bill of Materials (AIBOM)?
Машиночитаемый перечень всех компонентов ИИ-системы — датасетов, базовых моделей, данных дообучения, библиотек, промптов и оценочных артефактов — используемый для безопасности, соответствия и подотчётности. Относится к категории Безопасность ИИ и ML в кибербезопасности.
Что означает AI Bill of Materials (AIBOM)?
Машиночитаемый перечень всех компонентов ИИ-системы — датасетов, базовых моделей, данных дообучения, библиотек, промптов и оценочных артефактов — используемый для безопасности, соответствия и подотчётности.
Как работает AI Bill of Materials (AIBOM)?
AIBOM расширяет концепцию SBOM на ИИ-системы. Инициативы — рабочая группа AIBOM CISA, AI-профиль SPDX 3, CycloneDX ML-BOM и требования к технической документации EU AI Act — задают метаданные: происхождение и лицензии датасетов, идентификаторы и версии базовой модели, рецепты дообучения, гиперпараметры, результаты оценок и известные ограничения. AIBOM позволяет отследить последствия отравленного датасета или базовой модели с бэкдором, подтвердить соответствие требованиям, управлять цепочкой поставок ИИ, поддерживать отзывы моделей и пополнять базы уязвимостей (OSV-AI, MITRE ATLAS). Зрелые программы MLSecOps генерируют AIBOM автоматически из обучающих пайплайнов и хранят их вместе с подписанными артефактами моделей.
Как защититься от AI Bill of Materials (AIBOM)?
Защита от AI Bill of Materials (AIBOM) обычно сочетает технические меры и операционные практики, как описано в определении выше.
Какие есть другие названия AI Bill of Materials (AIBOM)?
Распространённые альтернативные названия: AIBOM, ML-BOM.
● Связанные термины
- appsec№ 1068
Software Bill of Materials (SBOM)
Формальный машиночитаемый перечень компонентов, библиотек и зависимостей, образующих программное обеспечение, с указанием версий и их связей.
- ai-security№ 034
Риски цепочки поставок ИИ
Множество угроз, возникающих из сторонних датасетов, базовых моделей, библиотек, плагинов и инфраструктуры, которые организации комбинируют при построении и развёртывании ИИ-систем.
- ai-security№ 691
MLSecOps
Дисциплина интеграции средств безопасности и управления рисками во весь жизненный цикл машинного обучения — от сбора данных до обучения, развёртывания, мониторинга и вывода из эксплуатации.
- ai-security№ 027
Управление ИИ (AI Governance)
Совокупность политик, процессов, ролей и средств контроля, с помощью которых организации и регуляторы обеспечивают ответственную и законную разработку, развёртывание и эксплуатацию ИИ-систем.
- ai-security№ 029
Реагирование на инциденты ИИ
Совокупность процессов, ролей и плейбуков, которые организация использует для обнаружения, локализации, расследования, коммуникации и восстановления после инцидентов, связанных с ИИ-системами.
- ai-security№ 281
Отравление данных
Атака на систему машинного обучения, при которой злоумышленники внедряют, изменяют или меняют разметку обучающих данных, чтобы итоговая модель работала неверно или содержала скрытые бэкдоры.
● См. также
- № 081Бэкдор-атака (ML)
- № 035Водяные знаки для ИИ
- № 1026Shadow AI
- № 391Закон ЕС об ИИ