Adaptiver Angriff.

Angriff auf ein ML-System, der gezielt entworfen ist, eine bekannte Verteidigung zu umgehen oder zu brechen, statt eine generische, defense-agnostische Methode zu verwenden. Es gehört zur Kategorie KI- und ML-Sicherheit der Cybersicherheit.

Angriff auf ein ML-System, der gezielt entworfen ist, eine bekannte Verteidigung zu umgehen oder zu brechen, statt eine generische, defense-agnostische Methode zu verwenden.

Ein adaptiver Angriff wird in voller Kenntnis der Zielverteidigung und ihrer Annahmen konstruiert; seine Verlustfunktion oder Nebenbedingungen werden so zugeschnitten, dass sie genau diese Verteidigung umgehen. Bekannt wurde der Begriff durch Carlini und Wagner: Ihre Evaluierungen zeigten wiederholt, dass Verteidigungen, die sich gegenueber generischen adversarialen Beispielen als robust ausgaben, fielen, sobald ein Angreifer ein gegen sie zugeschnittenes Ziel definierte. Adaptive Angriffe gelten heute als Standard: Jede Verteidigung gegen adversariale Beispiele, Wasserzeichen oder Erkennung sollte gegen Gegner getestet werden, die die Verteidigung kennen und ihre Methode anpassen. Diesen Schritt zu ueberspringen, fuehrt zu ueberzogenen Robustheitsbehauptungen, die einfache, prinzipiengeleitete Angriffe leicht aushebeln.

Schutzmaßnahmen gegen Adaptiver Angriff kombinieren typischerweise technische Kontrollen und operative Praktiken, wie in der Definition oben beschrieben.

Übliche alternative Bezeichnungen: Verteidigungsbewusster Angriff, White-Box-Adaptive-Evaluation.