Переносимая состязательная атака.

Атака, при которой состязательные примеры, созданные против одной ML-модели, обманывают и другие модели, что делает возможной чёрноящичную атаку без доступа к цели. Относится к категории Безопасность ИИ и ML в кибербезопасности.

Атака, при которой состязательные примеры, созданные против одной ML-модели, обманывают и другие модели, что делает возможной чёрноящичную атаку без доступа к цели.

Переносимая состязательная атака опирается на эмпирическое наблюдение, систематизированное Папернотом, Макдэниелом и Гудфеллоу: состязательные примеры, сгенерированные против одной модели, часто продолжают неверно классифицироваться другими моделями, обученными на сходных данных. Атакующий обучает локальную модель-заместитель, методами белого ящика (FGSM, PGD и др.) формирует состязательные входы и отправляет их в удалённую цель без доступа к её внутренностям. Переносимость подтверждена для классификаторов изображений, детекторов вредоносного ПО, NLP-моделей и коммерческих облачных API. Среди средств защиты — состязательное обучение на разнообразных возмущениях, преобразования входа, детекторы по расхождению ансамбля и методы сертифицированной устойчивости, такие как randomized smoothing.

Защита от Переносимая состязательная атака обычно сочетает технические меры и операционные практики, как описано в определении выше.

Распространённые альтернативные названия: Межмодельный состязательный перенос, Чёрноящичная атака переноса.