Deepfake.

Synthetisches Audio-, Bild- oder Videomaterial, das mit KI erzeugt wird und eine reale Person überzeugend etwas sagen oder tun lässt, was nie geschah. Es gehört zur Kategorie KI- und ML-Sicherheit der Cybersicherheit.

Synthetisches Audio-, Bild- oder Videomaterial, das mit KI erzeugt wird und eine reale Person überzeugend etwas sagen oder tun lässt, was nie geschah.

Deepfakes nutzen generative Modelle — GANs, Diffusionsmodelle und moderne Voice-Cloning-Systeme — um Gesichter zu tauschen, Stimmen zu klonen oder ganze Szenen zu fabrizieren. Die Qualität ist so rasant gestiegen, dass Echtzeit-Video-Deepfakes in spektakulären Betrugsfällen genutzt wurden, etwa im Arup-Vorfall 2024, bei dem Angreifer einen CFO per Videocall imitierten und eine Überweisung von 25 Mio. USD freigaben. Deepfakes treiben Vishing, Sextortion, Wahlmanipulation, nicht einvernehmliche intime Bilder und KYC-Umgehung. Schutz bieten technische Erkennung (Liveness, Deepfake-Klassifikatoren, C2PA-Content-Credentials), prozessuale Kontrollen (Out-of-Band-Bestätigung großer Transfers, Codewörter), Regulierung (EU AI Act, AI Disclosure Act-Entwürfe) und Awareness-Schulungen.

Schutzmaßnahmen gegen Deepfake kombinieren typischerweise technische Kontrollen und operative Praktiken, wie in der Definition oben beschrieben.

Übliche alternative Bezeichnungen: KI-generierte Imitation, Synthetic-Media-Imitation.