深度伪造(Deepfake).

Deepfake 借助 GAN、扩散模型与神经语音克隆系统等生成模型,实现换脸、克隆声音或完整伪造场景。该词源于 2017 年一位 Reddit 用户发布的换脸视频;其底层的自编码器/GAN 技术,将压缩人脸的编码器与训练用于重建目标的解码器配对,而现代语音克隆仅需数秒参考音频。技术质量提升迅速,实时视频深度伪造促成了 2024 年 1 月香港的 Arup 诈骗案——攻击者在视频会议中放置多名被深度伪造的同事(包括假冒的 CFO),诱使一名员工授权 15 笔转账,合计约 2 亿港元(≈2,500 万美元)。

深度伪造还驱动电话诈骗、性勒索、选举虚假信息、未经同意的私密影像,以及通过注入合成视频绕过身份核验(KYC)。防御应分层:技术检测(活体/反欺骗检测、深伪分类器,以及通过内容来源与真实性联盟(C2PA)的 C2PA Content Credentials 标准进行来源签名);流程控制(向已知号码进行带外回拨、对大额转账双重审批与暗语);以及法律规制,如欧盟《人工智能法》,其第 50 条的透明度义务要求标注 AI 生成内容。仅靠检测较为脆弱,且会随生成器进步而失效,因此流程控制仍是最可靠的保障。

flowchart LR
  A[目标的参考照片/音频] --> B[训练 GAN /<br/>扩散 / 语音克隆]
  B --> C[合成视频或语音]
  C --> D[欺诈性视频通话<br/>或语音邮件]
  D --> E{受害者是否<br/>带外核实?}
  E -->|未回拨| F[资金已转出 - 诈骗得逞]
  E -->|暗语 + 已知号码| G[请求被拒绝]
  C -.C2PA 来源.-> H[Content Credentials<br/>标记合成媒体]