Ataque Nightshade.

Técnica de envenenamiento de datos desarrollada por el equipo Glaze de la Universidad de Chicago que añade perturbaciones imperceptibles a imágenes para que los modelos text-to-image entrenados con ellas aprendan conceptos profundamente distorsionados. Pertenece a la categoría de Seguridad de IA y ML en ciberseguridad.

Técnica de envenenamiento de datos desarrollada por el equipo Glaze de la Universidad de Chicago que añade perturbaciones imperceptibles a imágenes para que los modelos text-to-image entrenados con ellas aprendan conceptos profundamente distorsionados.

Publicado en 2023-2024 por Shan et al., Nightshade permite a los artistas reaccionar al raspado no autorizado de sus obras para entrenar IA generativa. Las imágenes perturbadas se ven iguales a un humano, pero al integrarse en un dataset llevan al modelo a asociar mal los conceptos: una imagen "perro" envenenada puede enseñar al modelo a dibujar gatos, o deformar estilos artísticos hasta hacerlos inutilizables. Pocas imágenes Nightshade bastan para degradar la calidad. Aunque se presenta como herramienta defensiva para creadores, técnicamente es un ataque de cadena de suministro contra corpus raspados, y ha impulsado más investigación en sourcing respetuoso con derechos, higiene de datasets, registros de opt-out y herramientas de procedencia en empresas como OpenAI, Stability o Adobe.

Las defensas contra Ataque Nightshade combinan habitualmente controles técnicos y prácticas operativas, como se detalla en la definición.

Nombres alternativos comunes: Envenenamiento Nightshade, Variante ofensiva de Glaze.