Marca de agua de IA.

Técnicas que insertan una señal detectable en el contenido generado por IA para verificar más tarde su procedencia, el modelo de origen o su pertenencia al entrenamiento. Pertenece a la categoría de Seguridad de IA y ML en ciberseguridad.

Técnicas que insertan una señal detectable en el contenido generado por IA para verificar más tarde su procedencia, el modelo de origen o su pertenencia al entrenamiento.

La marca de agua para IA abarca un espectro: credenciales criptográficas de contenido como C2PA, que adjuntan manifiestos firmados a los medios; marcas perceptuales que modifican sutilmente píxeles o audio; y marcas a nivel de modelo que sesgan el muestreo de tokens de un LLM —por ejemplo el SynthID Text de Google— para que el texto generado sea estadísticamente detectable. Apoyan los deberes de transparencia del Reglamento europeo de IA, ayudan a las plataformas a etiquetar contenido y son útiles en investigaciones forenses de desinformación, fraude o abuso infantil. La robustez frente a recortes, parafraseo, compresión y ataques adversariales sigue en investigación, igual que evitar que la marca degrade la calidad o revele huellas de los datos de entrenamiento.

Las defensas contra Marca de agua de IA combinan habitualmente controles técnicos y prácticas operativas, como se detalla en la definición.

Nombres alternativos comunes: Procedencia de contenido, Marca de agua para IA generativa.