ディープフェイク.

ディープフェイクは、GAN・拡散モデル・ニューラルなボイスクローン技術といった生成モデルを用いて、顔のすり替え、声の複製、シーン全体の捏造を可能にします。この語は 2017 年に Reddit のユーザーが顔交換動画を公開したことに由来します。基盤となるオートエンコーダ/GAN 技術は、顔を圧縮するエンコーダと、ターゲットを再構成するよう学習したデコーダを組み合わせます。一方、最新の音声クローンは数秒の参照音声で足ります。品質向上は急速で、リアルタイム動画のディープフェイクは 2024 年 1 月の香港 Arup 詐欺を引き起こしました。攻撃者はビデオ会議を偽の CFO を含む偽造された同僚で埋め、従業員に合計約 2 億香港ドル(≈2,500 万ドル) の 15 件の送金を承認させました。

ディープフェイクは音声フィッシング、性的恐喝、選挙偽情報、非合意の親密な画像、そして合成動画の注入による本人確認(KYC)回避も駆動します。防御は多層です。技術的検知(ライブネス/なりすまし対策、分類器、そして Coalition for Content Provenance and Authenticity の C2PA Content Credentials 標準による来歴署名)、業務統制(既知の番号への帯域外コールバック、高額送金の二重承認と合言葉)、そして AI 生成コンテンツの表示を義務付ける第 50 条を持つ EU AI Act などの法規制です。検知だけでは脆く、生成器の進歩とともに劣化するため、プロセス統制が最も信頼できる防御策であり続けます。

flowchart LR
  A[ターゲットの参照写真/音声] --> B[GAN /<br/>拡散 / 音声クローンを学習]
  B --> C[合成動画または音声]
  C --> D[不正なビデオ通話<br/>または留守電]
  D --> E{被害者は帯域外で<br/>確認するか?}
  E -->|コールバックなし| F[送金完了 - 詐欺成功]
  E -->|合言葉 + 既知の番号| G[要求を拒否]
  C -.C2PA 来歴.-> H[Content Credentials が<br/>合成メディアを標示]