Extração de modelo.

Ataque que reconstrói parâmetros, comportamento ou dados de treino de um modelo de ML confidencial através de consultas sistemáticas à sua API pública. Pertence à categoria Segurança de IA e ML da cibersegurança.

Ataque que reconstrói parâmetros, comportamento ou dados de treino de um modelo de ML confidencial através de consultas sistemáticas à sua API pública.

A extração de modelo (model stealing) trata o modelo implementado como um oráculo. O atacante envia grandes quantidades de entradas cuidadosamente preparadas, regista as saídas (logits, probabilidades ou apenas etiquetas) e treina um modelo substituto que aproxima a vítima. Tramèr et al. (2016) mostraram que isto é prático contra APIs comerciais de MLaaS; variantes modernas visam LLMs, extraindo estilos fine-tuned, prompts de sistema ou pequenas camadas densas. Os objetivos incluem roubo de propriedade intelectual, contornar uso pago, construir exemplos adversariais offline e recuperar dados proprietários gravados nos pesos. As defesas incluem limites de taxa, deteção de anomalias em padrões de acesso, marcas de água em saídas, devolução apenas das etiquetas top-k e ruído calibrado nos scores de confiança.

As defesas contra Extração de modelo costumam combinar controles técnicos e práticas operacionais, conforme detalhado na definição acima.

Nomes alternativos comuns: Roubo de modelo, Extração de funcionalidade.