回避攻撃(ML).

推論時に攻撃者が入力を細工して、デプロイ済み機械学習モデル(マルウェア分類器やコンテンツフィルタなど)の本来の判定を回避する攻撃。 サイバーセキュリティの AI / ML セキュリティ カテゴリに属します。

推論時に攻撃者が入力を細工して、デプロイ済み機械学習モデル(マルウェア分類器やコンテンツフィルタなど)の本来の判定を回避する攻撃。

回避攻撃は学習・デプロイの後に発生します。攻撃者は学習パイプラインには手を加えず、クエリを操作して検出をすり抜けます。多くは敵対的サンプルを利用しますが、ポリモーフィックマルウェア、テキスト審査に対する文字難読化、話者認証に対する音声クローン、知覚ハッシュに対する変換などより単純な手口もこのファミリーに含まれます。NIST AI 100-2 は回避攻撃を、ポイズニング・プライバシー・濫用と並ぶ敵対的 ML の四大脅威の一つに位置付けています。防御策には敵対的学習、堅牢な特徴量設計、マルチモーダル/アンサンブル検出、ランタイム入力サニタイズ、信頼度ドリフトに対するテレメトリ、モデル API への厳格なアクセス制御などがあります。

回避攻撃(ML) に対する防御は通常、上記の定義で述べたとおり、技術的統制と運用上の実践を組み合わせます。

一般的な別名: 推論時攻撃, モデル回避。