Watermarking d'IA.

Techniques qui intègrent un signal détectable dans des contenus générés par IA afin de vérifier ultérieurement leur provenance, leur modèle d'origine ou leur appartenance à un jeu d'entraînement. Cette notion relève de la catégorie Sécurité de l'IA et du ML en cybersécurité.

Techniques qui intègrent un signal détectable dans des contenus générés par IA afin de vérifier ultérieurement leur provenance, leur modèle d'origine ou leur appartenance à un jeu d'entraînement.

Le watermarking d'IA recouvre plusieurs approches : des identifiants de contenu cryptographiques comme C2PA qui attachent des manifestes signés aux médias ; des watermarks perceptuels qui modifient subtilement pixels ou échantillons audio ; et des watermarks de modèle qui biaisent l'échantillonnage de tokens d'un LLM — tels SynthID Text de Google — pour que le texte généré soit statistiquement détectable. Ils soutiennent les obligations de transparence de l'AI Act, aident les plateformes à étiqueter le contenu IA et facilitent les enquêtes forensiques sur la désinformation, la fraude et la protection de l'enfance. La robustesse au recadrage, à la paraphrase, à la compression et aux attaques adversariales reste un sujet de recherche, tout comme l'évitement d'une dégradation de qualité ou d'une fuite d'empreintes des données d'entraînement.

Les défenses contre Watermarking d'IA combinent habituellement des contrôles techniques et des pratiques opérationnelles, comme détaillé dans la définition ci-dessus.

Noms alternatifs courants : Provenance de contenu, Watermarking d'IA générative.