Deepfake.

Deepfakes nutzen generative Modelle — GANs, Diffusionsmodelle und neuronale Voice-Cloning-Systeme — um Gesichter zu tauschen, Stimmen zu klonen oder ganze Szenen zu fabrizieren. Der Begriff geht auf einen Reddit-Nutzer von 2017 zurück, der gesichtsgetauschte Videos veröffentlichte; die zugrundeliegende Autoencoder/GAN-Technik paart einen Encoder, der ein Gesicht komprimiert, mit Decodern, die darauf trainiert sind, ein Ziel zu rekonstruieren, während moderne Stimmklone nur Sekunden an Referenzaudio benötigen. Die Qualität ist so rasant gestiegen, dass Echtzeit-Video-Deepfakes den Arup-Betrug in Hongkong im Januar 2024 ermöglichten, bei dem Angreifer einen Videocall mit gefälschten Kollegen, darunter ein falscher CFO, besetzten und einen Mitarbeiter dazu brachten, 15 Überweisungen über insgesamt rund 200 Mio. HK$ (≈25 Mio. USD) freizugeben.

Deepfakes treiben außerdem Vishing, Sextortion, Wahl-Desinformation, nicht einvernehmliche intime Bilder und die Umgehung der Identitätsprüfung (KYC) durch eingespeistes synthetisches Video. Schutz ist mehrschichtig: technische Erkennung (Liveness-/Anti-Spoofing-Prüfungen, Klassifikatoren und Herkunftssignatur über den C2PA-Standard Content Credentials der Coalition for Content Provenance and Authenticity); prozessuale Kontrollen (Out-of-Band-Rückrufe an eine bekannte Nummer, Vier-Augen-Freigabe und Codewörter für große Transfers); sowie Regulierung wie der EU AI Act, dessen Artikel 50 die Kennzeichnung KI-generierter Inhalte vorschreibt. Erkennung allein ist fragil und verschlechtert sich mit besseren Generatoren, weshalb Prozesskontrollen die zuverlässigste Absicherung bleiben.

flowchart LR
  A[Referenzfotos/-audio<br/>des Ziels] --> B[GAN /<br/>Diffusion / Stimmklon trainieren]
  B --> C[Synthetisches Video oder Stimme]
  C --> D[Betruegerischer Videocall<br/>oder Mailbox]
  D --> E{Verifiziert das Opfer<br/>Out-of-Band?}
  E -->|Kein Rueckruf| F[Geld ueberwiesen - Betrug gelingt]
  E -->|Codewort + bekannte Nummer| G[Anfrage abgelehnt]
  C -.C2PA-Herkunft.-> H[Content Credentials<br/>markiert synthetisches Medium]