Ataque de evasão (ML).

Ataque em tempo de inferência em que o adversário cria entradas que contornam a decisão pretendida de um modelo de ML implementado, como um classificador de malware ou um filtro de conteúdo. Pertence à categoria Segurança de IA e ML da cibersegurança.

Ataque em tempo de inferência em que o adversário cria entradas que contornam a decisão pretendida de um modelo de ML implementado, como um classificador de malware ou um filtro de conteúdo.

Os ataques de evasão ocorrem depois do treino e implementação: o atacante não toca no pipeline de treino, manipulando antes as consultas para escapar à deteção. A maioria usa exemplos adversariais, mas a família inclui também táticas mais simples — malware polimórfico, ofuscação de caracteres contra moderação de texto, clonagem de voz contra verificação de orador, ou transformações contra hashing percetual. O relatório NIST AI 100-2 classifica a evasão entre as quatro principais ameaças adversariais de ML, ao lado do poisoning, privacidade e abuso. As defesas incluem treino adversarial, engenharia de features robusta, deteção multimodal ou em ensemble, sanitização de entradas em runtime, telemetria sobre drift de confiança e controlos rigorosos das APIs.

As defesas contra Ataque de evasão (ML) costumam combinar controles técnicos e práticas operacionais, conforme detalhado na definição acima.

Nomes alternativos comuns: Ataque em inferência, Evasão de modelo.