適応的攻撃.

汎用的・防御非依存の手法ではなく、特定の既知防御を回避・突破するよう設計された機械学習システムへの攻撃。 サイバーセキュリティの AI / ML セキュリティ カテゴリに属します。

汎用的・防御非依存の手法ではなく、特定の既知防御を回避・突破するよう設計された機械学習システムへの攻撃。

適応的攻撃は、対象とする防御とその前提を十分に把握したうえで構築され、その防御を突破するように損失関数や制約が調整されます。この用語は Carlini と Wagner の評価研究を通じて広まりました。彼らは、汎用的な敵対的サンプルに対して堅牢と謳う防御が、防御を狙って目的関数を再設計した攻撃者の前ではことごとく破られることを繰り返し示しました。今日、適応的攻撃は標準的なベンチマークとなっており、敵対的サンプル、AI コンテンツの電子透かし、検出器など、いかなる防御提案も、防御を認識し方法論を適応させる攻撃者を想定して評価すべきとされます。これを省くと、単純で原則的な攻撃で容易に崩れるような過大な堅牢性主張に陥りがちです。

適応的攻撃 に対する防御は通常、上記の定義で述べたとおり、技術的統制と運用上の実践を組み合わせます。

一般的な別名: 防御を知った攻撃, ホワイトボックス適応評価。