合成媒体.

由生成式 AI 制作或大量修改的音频、图像、视频或文本内容,而非直接从物理世界采集得到的素材。 它属于网络安全的 AI 与机器学习安全 分类。

由生成式 AI 制作或大量修改的音频、图像、视频或文本内容,而非直接从物理世界采集得到的素材。

合成媒体是涵盖深度伪造、AI 生成语音、文生图艺术、AI 撰写文章、AI 头像等的统称。并非所有合成媒体都具有恶意——创意创作、无障碍辅助、本地化等正当用途广泛存在——但同样的技术也能驱动虚假信息、欺诈、骚扰与身份攻击。多家标准组织推动来源与透明度的实践,如 C2PA Content Credentials、JPEG Trust、IPTC 元数据,以及 Google SynthID 等水印方案。欧盟《人工智能法》及多国法律要求在用户与合成媒体交互时明确披露。安全团队既将其视为威胁向量(深度伪造、欺诈),也视其为需治理的资产(营销、客服、训练数据等),需要来源管理、标注与治理。

针对 合成媒体 的防御通常结合技术控制与运营实践,详见上方完整定义。

常见的别称包括: AI 生成媒体, 生成式媒体。