音声クローン攻撃.

実在人物を模倣した AI 合成音声を用いて音声認証を回避し、または被害者をだまして送金や操作を承認させる攻撃。 サイバーセキュリティの AI / ML セキュリティ カテゴリに属します。

実在人物を模倣した AI 合成音声を用いて音声認証を回避し、または被害者をだまして送金や操作を承認させる攻撃。

音声クローン攻撃では、対象の数秒の音声で学習させた深層学習モデルを用い、本人の声でもっともらしい発話を合成します。ElevenLabs や Resemble といった商用システム、各種オープンソースツールにより、公開動画や留守番電話から数分のサンプルを集めるだけで高品質なクローン音声を作成できるようになりました。攻撃者は、CEO 詐欺や「孫を装った緊急電話詐欺」、銀行・コールセンターの声紋認証回避、ヘルプデスクへのソーシャルエンジニアリングなどに利用します。対策としては、ライブネス検出、既知の番号への折り返し確認、家族内であらかじめ取り決めた合言葉、そして声紋を一次認証要素として使用しないことが挙げられます。

音声クローン攻撃 に対する防御は通常、上記の定義で述べたとおり、技術的統制と運用上の実践を組み合わせます。

一般的な別名: 音声ディープフェイク, AI 音声詐欺, Vishing 2.0。