深度伪造(Deepfake).

由 AI 生成、能以假乱真地呈现真实人物说出或做出未曾发生之事的合成音视频或图像。 它属于网络安全的 AI 与机器学习安全 分类。

由 AI 生成、能以假乱真地呈现真实人物说出或做出未曾发生之事的合成音视频或图像。

Deepfake 借助 GAN、扩散模型与现代语音克隆系统等生成模型,实现换脸、克隆声音或完整伪造场景。技术质量提升迅速,实时视频深度伪造已在多起重大欺诈中现身,如 2024 年 Arup 事件——攻击者在视频会议中冒充 CFO,授权转账约 2,500 万美元。深度伪造用于电话诈骗、性勒索、干预选举、未经同意的私密影像合成、绕过身份核验等。防御措施综合技术检测(活体检测、深伪分类器、C2PA 内容凭证)、流程控制(对大额转账进行带外验证、暗语)、法律规制(欧盟《人工智能法》、AI Disclosure Act 提案等)以及用户意识培训。

针对 深度伪造(Deepfake) 的防御通常结合技术控制与运营实践,详见上方完整定义。

常见的别称包括: AI 生成的冒充, 合成媒体冒充。