Ataque Adaptativo
¿Qué es Ataque Adaptativo?
Ataque AdaptativoAtaque contra un sistema de aprendizaje automatico disenado especificamente para evadir o romper una defensa conocida, en lugar de usar una tecnica generica.
Un ataque adaptativo se construye conociendo a fondo la defensa objetivo y sus supuestos, y su funcion de perdida o restricciones se ajustan para esquivarla. El termino fue popularizado por Carlini y Wagner, cuyas evaluaciones mostraron repetidamente que las defensas que afirmaban ser robustas frente a ejemplos adversariales genericos caian cuando el atacante disenaba un objetivo especifico contra ellas. Los ataques adaptativos son hoy un estandar de evaluacion: cualquier defensa propuesta para ejemplos adversariales, marcas de agua o deteccion debe medirse frente a adversarios conscientes de la defensa y capaces de adaptar su metodologia. Omitir este paso suele dar lugar a afirmaciones de robustez exageradas que se rompen con ataques simples y bien fundamentados.
● Ejemplos
- 01
Carlini y Wagner rompen multiples detectores de ejemplos adversariales reorientando la perdida del ataque contra la regla de decision de cada detector.
- 02
Un ataque adaptativo derrota un esquema de marca de agua para imagenes generadas por IA optimizando las perturbaciones contra el detector publicado.
● Preguntas frecuentes
¿Qué es Ataque Adaptativo?
Ataque contra un sistema de aprendizaje automatico disenado especificamente para evadir o romper una defensa conocida, en lugar de usar una tecnica generica. Pertenece a la categoría de Seguridad de IA y ML en ciberseguridad.
¿Qué significa Ataque Adaptativo?
Ataque contra un sistema de aprendizaje automatico disenado especificamente para evadir o romper una defensa conocida, en lugar de usar una tecnica generica.
¿Cómo defenderse de Ataque Adaptativo?
Las defensas contra Ataque Adaptativo combinan habitualmente controles técnicos y prácticas operativas, como se detalla en la definición.
¿Cuáles son otros nombres para Ataque Adaptativo?
Nombres alternativos comunes: Ataque consciente de la defensa, Evaluacion adaptativa en caja blanca.