Дипфейк.

Дипфейки используют генеративные модели — GAN, диффузионные модели и нейросетевые системы клонирования голоса — чтобы менять лица, копировать голоса или фабриковать целые сцены. Термин восходит к 2017 году, когда пользователь Reddit опубликовал видео с подменой лиц; лежащая в основе техника автоэнкодера/GAN сочетает энкодер, сжимающий лицо, с декодерами, обученными восстанавливать цель, а современным клонам голоса достаточно нескольких секунд эталонного аудио. Качество выросло так быстро, что видео-дипфейки в реальном времени обеспечили мошенничество Arup в Гонконге в январе 2024 года: злоумышленники заполнили видеозвонок поддельными коллегами, включая фальшивого CFO, и убедили сотрудника санкционировать 15 переводов на общую сумму около 200 млн гонконгских долларов (≈25 млн USD).

Дипфейки также питают голосовой фишинг, секс-вымогательство, предвыборную дезинформацию, несогласованный интимный контент и обход верификации личности (KYC) через внедрённое синтетическое видео. Защита многоуровневая: техническое обнаружение (проверки liveness/анти-спуфинг, классификаторы и подпись происхождения по стандарту C2PA Content Credentials от Coalition for Content Provenance and Authenticity); процессные меры (обратный звонок out-of-band на известный номер, двойное одобрение и кодовые слова для крупных переводов); и правовые режимы, такие как EU AI Act, статья 50 которого требует маркировать сгенерированный ИИ контент. Само по себе обнаружение хрупко и деградирует по мере улучшения генераторов, поэтому процессные меры остаются самой надёжной защитой.

flowchart LR
  A[Эталонные фото/аудио<br/>цели] --> B[Обучить GAN /<br/>диффузию / клон голоса]
  B --> C[Синтетическое видео или голос]
  C --> D[Мошеннический видеозвонок<br/>или голосовая почта]
  D --> E{Жертва проверяет<br/>out-of-band?}
  E -->|Нет обратного звонка| F[Средства переведены - мошенничество удалось]
  E -->|Кодовое слово + известный номер| G[Запрос отклонён]
  C -.происхождение C2PA.-> H[Content Credentials<br/>помечает синтетическое медиа]