ディープフェイク.

AI が生成する合成音声・画像・動画で、実在する人物が実際には言っていない・していないことを、もっともらしく描写するもの。 サイバーセキュリティの AI / ML セキュリティ カテゴリに属します。

AI が生成する合成音声・画像・動画で、実在する人物が実際には言っていない・していないことを、もっともらしく描写するもの。

ディープフェイクは、GAN・拡散モデル・最新のボイスクローン技術といった生成モデルを用いて、顔のすり替え、声の複製、あるいはシーン全体の捏造を可能にします。品質向上は急速で、リアルタイム動画のディープフェイクが大規模詐欺に使われた事例として 2024 年の Arup 事件があり、CFO になりすました攻撃者がビデオ会議経由で約 2,500 万ドルの送金を承認させました。ディープフェイクは音声フィッシング、性的恐喝、選挙干渉、非合意の親密な画像生成、本人確認回避などを駆動します。対策には技術的検知(ライブネス、分類器、C2PA コンテンツクレデンシャル)、業務統制(高額送金の帯域外確認、合言葉)、法整備(EU AI Act、AI Disclosure Act 草案)、ユーザー教育が組み合わされます。

ディープフェイク に対する防御は通常、上記の定義で述べたとおり、技術的統制と運用上の実践を組み合わせます。

一般的な別名: AI 生成なりすまし, 合成メディアなりすまし。