KI-Watermarking.

Techniken, die ein erkennbares Signal in KI-generierte Inhalte einbetten, sodass deren Provenance, Ursprungsmodell oder Zugehörigkeit zu einem Trainingsdatensatz später verifiziert werden kann. Es gehört zur Kategorie KI- und ML-Sicherheit der Cybersicherheit.

Techniken, die ein erkennbares Signal in KI-generierte Inhalte einbetten, sodass deren Provenance, Ursprungsmodell oder Zugehörigkeit zu einem Trainingsdatensatz später verifiziert werden kann.

KI-Watermarking umfasst mehrere Ansätze: kryptografische Content Credentials wie C2PA, die signierte Manifeste an Medien anhängen; perzeptuelle Watermarks, die Pixel oder Audio subtil verändern; und Modell-Watermarks, die das Token-Sampling eines LLM verzerren — etwa Googles SynthID Text — sodass generierter Text statistisch erkennbar wird. Watermarks stützen Transparenzpflichten des EU AI Act, helfen Plattformen beim Labeln von KI-Content und unterstützen forensische Untersuchungen zu Desinformation, Betrug oder Kindersicherheit. Robustheit gegen Cropping, Paraphrasierung, Kompression und adversarielle Angriffe ist aktives Forschungsfeld, ebenso wie das Vermeiden von Qualitätsverlusten und Trainingsdaten-Leaks.

Schutzmaßnahmen gegen KI-Watermarking kombinieren typischerweise technische Kontrollen und operative Praktiken, wie in der Definition oben beschrieben.

Übliche alternative Bezeichnungen: Content-Provenance, Watermarking für Generative AI.