AI 生成偽情報.

生成 AI が作成または増幅する虚偽・誤解を招く情報で、受け手を欺いたり、世論を操作したり、選挙・市場・紛争に影響を与えるために用いられる。 サイバーセキュリティの AI / ML セキュリティ カテゴリに属します。

生成 AI が作成または増幅する虚偽・誤解を招く情報で、受け手を欺いたり、世論を操作したり、選挙・市場・紛争に影響を与えるために用いられる。

AI 生成偽情報は、大規模言語モデル、画像生成器、音声・動画合成を使い、説得力のあるフェイクニュース、SNS 投稿、捏造インタビュー、合成証拠を大量生産します。従来のプロパガンダと比べ、生成 AI は流暢な多言語コンテンツの制作コストを下げ、対象ごとのオンデマンドなパーソナライズと、ファクトチェック公表後の素早い改稿を可能にします。記録された事例としては、2024 年の選挙で大統領候補を装った AI ボイス・ロボコールや、ウクライナ戦争を巡る影響工作で用いられた合成動画があります。対策には、コンテンツ来歴標準 (C2PA)、プラットフォームによる検出、合成メディアへの電子透かし、メディアリテラシー教育、EU AI 法のディープフェイク透明性義務などの法制度が含まれます。

AI 生成偽情報 に対する防御は通常、上記の定義で述べたとおり、技術的統制と運用上の実践を組み合わせます。

一般的な別名: 合成偽情報, 生成 AI プロパガンダ。