AI ウォーターマーキング.

AI 生成コンテンツに検出可能な信号を埋め込み、後から来歴・由来モデル・学習データ所属を検証できるようにする技術。 サイバーセキュリティの AI / ML セキュリティ カテゴリに属します。

AI 生成コンテンツに検出可能な信号を埋め込み、後から来歴・由来モデル・学習データ所属を検証できるようにする技術。

AI ウォーターマーキングには複数のアプローチがあります。C2PA のように署名済みマニフェストをメディアに添付する暗号学的コンテンツクレデンシャル、ピクセルや音声サンプルにわずかな変化を加える知覚的ウォーターマーク、そして LLM のトークンサンプリングを偏らせ生成テキストを統計的に検出可能にするモデル側ウォーターマーク(Google の SynthID Text など)です。EU AI Act の透明性義務の履行、プラットフォームでの AI コンテンツのラベリング、偽情報・詐欺・児童保護に関するフォレンジック調査などで活用されます。クロップ・言い換え・圧縮・敵対的攻撃に対する耐性は活発な研究テーマであり、モデル品質を損なわず学習データの指紋を漏らさないことも重要です。

AI ウォーターマーキング に対する防御は通常、上記の定義で述べたとおり、技術的統制と運用上の実践を組み合わせます。

一般的な別名: コンテンツ来歴, 生成 AI ウォーターマーク。