Synthetische Medien.

Jegliche Audio-, Bild-, Video- oder Textinhalte, die nicht aus der physischen Welt aufgenommen, sondern von generativer KI erzeugt oder wesentlich verändert wurden. Es gehört zur Kategorie KI- und ML-Sicherheit der Cybersicherheit.

Jegliche Audio-, Bild-, Video- oder Textinhalte, die nicht aus der physischen Welt aufgenommen, sondern von generativer KI erzeugt oder wesentlich verändert wurden.

Synthetische Medien sind die Oberkategorie für Deepfakes, KI-generierte Stimmen, Text-zu-Bild-Kunst, KI-geschriebene Artikel und KI-Avatare. Nicht alle sind böswillig — kreative, Barrierefreiheits- und Lokalisierungsanwendungen sind weit verbreitet —, doch dieselben Werkzeuge ermöglichen Desinformation, Betrug, Belästigung und Identitätsangriffe. Standardisierungsorganisationen treiben Provenance und Transparenz: C2PA Content Credentials, JPEG Trust, IPTC-Metadaten und Watermarking-Verfahren wie Google SynthID. Der EU AI Act und mehrere nationale Gesetze fordern klare Offenlegung bei Interaktion mit synthetischen Medien. Sicherheitsabteilungen behandeln sie als Bedrohungsvektor (Deepfakes, Betrug) und zugleich als Asset (Marketing, Support, Trainingsdaten), das Provenance, Labelling und Governance benötigt.

Schutzmaßnahmen gegen Synthetische Medien kombinieren typischerweise technische Kontrollen und operative Praktiken, wie in der Definition oben beschrieben.

Übliche alternative Bezeichnungen: KI-generierte Medien, Generative Medien.