Risco de cadeia de fornecimento de IA.

Conjunto de ameaças decorrentes dos datasets, modelos base, bibliotecas, plug-ins e infraestrutura de terceiros que as organizações combinam para construir e implementar sistemas de IA. Pertence à categoria Segurança de IA e ML da cibersegurança.

Conjunto de ameaças decorrentes dos datasets, modelos base, bibliotecas, plug-ins e infraestrutura de terceiros que as organizações combinam para construir e implementar sistemas de IA.

A IA moderna raramente é construída do zero. As equipas obtêm modelos base no Hugging Face, datasets de crawls públicos, instalam pacotes Python e Node, integram bases de dados vetoriais e consomem APIs de modelos alojados. Cada elo é um risco: pesos envenenados ou com backdoor, ficheiros pickle maliciosos, typosquatting no PyPI, payloads de injeção de prompt em datasets, dependency confusion, plug-ins comprometidos e infraestrutura de inferência insegura. O OWASP LLM Top 10 destaca explicitamente vulnerabilidades de cadeia de fornecimento; o NIST AI 100-2 e o AI Act europeu impulsionam a rastreabilidade. Controlos incluem AIBOM, artefactos assinados (Sigstore para modelos, Model Signing Spec), rastreabilidade de proveniência, carregamento em sandbox, dependências fixadas e monitorização contínua dos registos a montante.

As defesas contra Risco de cadeia de fornecimento de IA costumam combinar controles técnicos e práticas operacionais, conforme detalhado na definição acima.

Nomes alternativos comuns: Risco de cadeia de fornecimento AI/ML, Cadeia de fornecimento de modelos.