Ataque Adaptativo.

Ataque contra un sistema de aprendizaje automatico disenado especificamente para evadir o romper una defensa conocida, en lugar de usar una tecnica generica. Pertenece a la categoría de Seguridad de IA y ML en ciberseguridad.

Ataque contra un sistema de aprendizaje automatico disenado especificamente para evadir o romper una defensa conocida, en lugar de usar una tecnica generica.

Un ataque adaptativo se construye conociendo a fondo la defensa objetivo y sus supuestos, y su funcion de perdida o restricciones se ajustan para esquivarla. El termino fue popularizado por Carlini y Wagner, cuyas evaluaciones mostraron repetidamente que las defensas que afirmaban ser robustas frente a ejemplos adversariales genericos caian cuando el atacante disenaba un objetivo especifico contra ellas. Los ataques adaptativos son hoy un estandar de evaluacion: cualquier defensa propuesta para ejemplos adversariales, marcas de agua o deteccion debe medirse frente a adversarios conscientes de la defensa y capaces de adaptar su metodologia. Omitir este paso suele dar lugar a afirmaciones de robustez exageradas que se rompen con ataques simples y bien fundamentados.

Las defensas contra Ataque Adaptativo combinan habitualmente controles técnicos y prácticas operativas, como se detalla en la definición.

Nombres alternativos comunes: Ataque consciente de la defensa, Evaluacion adaptativa en caja blanca.