Envenenamiento de datos.

Ataque a un sistema de aprendizaje automático en el que el adversario inyecta, altera o reetiqueta datos de entrenamiento para que el modelo se comporte de forma incorrecta o contenga puertas traseras ocultas. Pertenece a la categoría de Seguridad de IA y ML en ciberseguridad.

Ataque a un sistema de aprendizaje automático en el que el adversario inyecta, altera o reetiqueta datos de entrenamiento para que el modelo se comporte de forma incorrecta o contenga puertas traseras ocultas.

El envenenamiento de datos ataca la fase de entrenamiento del ciclo de vida ML. El atacante manipula conjuntos de datos — crawls web públicos, etiquetas colaborativas, corpus de fine-tuning o registros de feedback — para sesgar el modelo, degradar su precisión o implantar un comportamiento activado por un disparador. Carlini et al. demostraron en 2023 que incluso fracciones mínimas de datos envenenados en la web pueden corromper grandes corpus de pre-entrenamiento. Las variantes incluyen ataques de disponibilidad, ataques dirigidos y ataques de puerta trasera. Las defensas se centran en la procedencia y firma de datasets, la deduplicación, la detección de anomalías sobre los datos de entrenamiento, los algoritmos de aprendizaje robusto y la evaluación continua frente a conjuntos de prueba adversariales.

Las defensas contra Envenenamiento de datos combinan habitualmente controles técnicos y prácticas operativas, como se detalla en la definición.

Nombres alternativos comunes: Envenenamiento de datos de entrenamiento, Envenenamiento de dataset.