AI Bill of Materials (AIBOM)
O que é AI Bill of Materials (AIBOM)?
AI Bill of Materials (AIBOM)Inventário legível por máquina de cada componente de um sistema de IA — datasets, modelos base, dados de fine-tuning, bibliotecas, prompts e artefactos de avaliação — usado para segurança, conformidade e responsabilização.
O AIBOM estende o conceito de SBOM aos sistemas de IA. Iniciativas como o grupo AIBOM da CISA, o perfil AI do SPDX 3, o CycloneDX ML-BOM e os requisitos de documentação técnica do AI Act europeu definem os metadados: proveniência e licenças dos datasets, identificadores e versões do modelo base, receitas de fine-tuning, hiperparâmetros, resultados de avaliação e limitações conhecidas. O AIBOM ajuda a rastrear o impacto de um dataset envenenado ou de um modelo base com backdoor, demonstrar conformidade, gerir o risco de cadeia de fornecimento de IA, apoiar recalls de modelos e alimentar bases de vulnerabilidades (OSV-AI, MITRE ATLAS). Programas MLSecOps maduros geram AIBOMs automaticamente nos pipelines e armazenam-nos junto a artefactos de modelo assinados.
● Exemplos
- 01
Um ficheiro CycloneDX ML-BOM associado a uma release de modelo a listar o modelo base, os datasets e os dados de fine-tuning com hashes.
- 02
Um AIBOM usado durante a resposta a um incidente para identificar todos os produtos afetados por um modelo de embeddings vulnerável.
● Perguntas frequentes
O que é AI Bill of Materials (AIBOM)?
Inventário legível por máquina de cada componente de um sistema de IA — datasets, modelos base, dados de fine-tuning, bibliotecas, prompts e artefactos de avaliação — usado para segurança, conformidade e responsabilização. Pertence à categoria Segurança de IA e ML da cibersegurança.
O que significa AI Bill of Materials (AIBOM)?
Inventário legível por máquina de cada componente de um sistema de IA — datasets, modelos base, dados de fine-tuning, bibliotecas, prompts e artefactos de avaliação — usado para segurança, conformidade e responsabilização.
Como funciona AI Bill of Materials (AIBOM)?
O AIBOM estende o conceito de SBOM aos sistemas de IA. Iniciativas como o grupo AIBOM da CISA, o perfil AI do SPDX 3, o CycloneDX ML-BOM e os requisitos de documentação técnica do AI Act europeu definem os metadados: proveniência e licenças dos datasets, identificadores e versões do modelo base, receitas de fine-tuning, hiperparâmetros, resultados de avaliação e limitações conhecidas. O AIBOM ajuda a rastrear o impacto de um dataset envenenado ou de um modelo base com backdoor, demonstrar conformidade, gerir o risco de cadeia de fornecimento de IA, apoiar recalls de modelos e alimentar bases de vulnerabilidades (OSV-AI, MITRE ATLAS). Programas MLSecOps maduros geram AIBOMs automaticamente nos pipelines e armazenam-nos junto a artefactos de modelo assinados.
Como se defender contra AI Bill of Materials (AIBOM)?
As defesas contra AI Bill of Materials (AIBOM) costumam combinar controles técnicos e práticas operacionais, conforme detalhado na definição acima.
Quais são outros nomes para AI Bill of Materials (AIBOM)?
Nomes alternativos comuns: AIBOM, ML-BOM.
● Termos relacionados
- appsec№ 1068
Software Bill of Materials (SBOM)
Inventário formal e legível por máquina dos componentes, bibliotecas e dependências que compõem um software, com versões e respetivas relações.
- ai-security№ 034
Risco de cadeia de fornecimento de IA
Conjunto de ameaças decorrentes dos datasets, modelos base, bibliotecas, plug-ins e infraestrutura de terceiros que as organizações combinam para construir e implementar sistemas de IA.
- ai-security№ 691
MLSecOps
Disciplina que integra controlos de segurança e risco em todo o ciclo de vida do machine learning, desde a recolha de dados até treino, implementação, monitorização e desativação.
- ai-security№ 027
Governança de IA
Conjunto de políticas, processos, papéis e controlos usados por organizações e reguladores para garantir que sistemas de IA são desenvolvidos, implementados e operados de forma responsável e conforme à lei.
- ai-security№ 029
Resposta a incidentes de IA
Conjunto de processos, papéis e playbooks que uma organização usa para detetar, conter, investigar, comunicar e recuperar de incidentes envolvendo sistemas de IA.
- ai-security№ 281
Envenenamento de dados
Ataque a um sistema de aprendizagem automática em que adversários injetam, alteram ou reetiquetam dados de treino para que o modelo resultante se comporte de forma incorreta ou contenha backdoors ocultas.
● Veja também
- № 081Ataque de backdoor (ML)
- № 035Marca de água de IA
- № 1026Shadow AI
- № 391Regulamento Europeu de IA