Attaque Adaptative.

Attaque sur un systeme de machine learning specifiquement concue pour contourner ou casser une defense connue, plutot qu'utiliser une technique generique. Cette notion relève de la catégorie Sécurité de l'IA et du ML en cybersécurité.

Attaque sur un systeme de machine learning specifiquement concue pour contourner ou casser une defense connue, plutot qu'utiliser une technique generique.

Une attaque adaptative est construite en toute connaissance de la defense visee et de ses hypotheses, et sa fonction de perte ou ses contraintes sont adaptees pour la contourner. Le terme a ete popularise par Carlini et Wagner, dont les evaluations ont repetitivement montre que des defenses affichees comme robustes face aux exemples adversariaux generiques tombaient des qu'un attaquant concevait un objectif specifique contre elles. Les attaques adaptatives sont devenues un standard d'evaluation : toute defense proposee pour les exemples adversariaux, le tatouage ou la detection doit etre testee face a un adversaire informe et capable d'adapter sa methode. Sauter cette etape conduit regulierement a des claims de robustesse surestimes que des attaques simples mais bien posees suffisent a defaire.

Les défenses contre Attaque Adaptative combinent habituellement des contrôles techniques et des pratiques opérationnelles, comme détaillé dans la définition ci-dessus.

Noms alternatifs courants : Attaque consciente de la defense, Evaluation adaptative boite blanche.