AI コンテンツ検出.

ある文章・画像・音声・動画が、人間ではなく AI モデルによって生成されたかどうかを推定するためのツールや技術。 サイバーセキュリティの AI / ML セキュリティ カテゴリに属します。

ある文章・画像・音声・動画が、人間ではなく AI モデルによって生成されたかどうかを推定するためのツールや技術。

AI コンテンツ検出器は、統計シグナル(パープレキシティ、burstiness、トークン分布の異常)、フォレンジック痕跡(圧縮跡、センサーノイズ、光源の不整合)、埋め込みウォーターマーク(SynthID、C2PA、Adobe Content Credentials)、既知の AI 出力で学習した ML 分類器を組み合わせます。トラスト&セーフティ、学術不正対応、報道、選挙の安全、詐欺対策、EU AI Act や米国 AI 大統領令の開示義務の遵守などで活用されます。信頼性はばらつきがあり、言い換え・翻訳・画像圧縮・短文に対しては性能が落ち、学生や作家を不当に害してきた誤検知も少なくありません。ベストプラクティスはウォーターマーク由来の来歴、コンテンツクレデンシャル、分類器スコア、そして人間の判断を組み合わせ、単一シグナルに頼らないことです。

AI コンテンツ検出 に対する防御は通常、上記の定義で述べたとおり、技術的統制と運用上の実践を組み合わせます。

一般的な別名: AI テキスト検出, ディープフェイク検出。