Дипфейк.

Сгенерированные ИИ синтетические аудио, изображения или видео, убедительно показывающие реального человека говорящим или делающим то, чего на самом деле не было. Относится к категории Безопасность ИИ и ML в кибербезопасности.

Сгенерированные ИИ синтетические аудио, изображения или видео, убедительно показывающие реального человека говорящим или делающим то, чего на самом деле не было.

Дипфейки используют генеративные модели — GAN, диффузионные модели и современные системы клонирования голоса — чтобы менять лица, копировать голоса или фабриковать целые сцены. Качество растёт так быстро, что видео-дипфейки в реальном времени уже применялись в громких мошенничествах: в инциденте Arup 2024 года злоумышленники выдали себя за CFO на видеосозвоне и санкционировали перевод 25 млн USD. Дипфейки используются для голосового фишинга, секс-вымогательства, вмешательства в выборы, несогласованного интимного контента и обхода верификации личности. Защита сочетает технические детекторы (liveness, классификаторы, content credentials C2PA), процессы (out-of-band подтверждение крупных переводов, кодовые слова), законодательство (EU AI Act, проекты AI Disclosure Act) и обучение пользователей.

Защита от Дипфейк обычно сочетает технические меры и операционные практики, как описано в определении выше.

Распространённые альтернативные названия: ИИ-имперсонация, Имперсонация с синтетическим медиа.