Извлечение модели.

Атака, восстанавливающая параметры, поведение или обучающие данные конфиденциальной ML-модели путём систематических запросов к её публичному API. Относится к категории Безопасность ИИ и ML в кибербезопасности.

Атака, восстанавливающая параметры, поведение или обучающие данные конфиденциальной ML-модели путём систематических запросов к её публичному API.

Извлечение модели (model stealing) рассматривает развёрнутую модель как оракул. Злоумышленник отправляет большое число специально подобранных входных данных, фиксирует выходы (логиты, вероятности или только метки) и обучает суррогатную модель, аппроксимирующую жертву. Tramèr и соавторы (2016) показали практическую осуществимость атаки против коммерческих MLaaS-API; современные варианты нацелены на LLM и извлекают тонко настроенные стили, системные промпты и даже небольшие dense-слои. Цели — кража интеллектуальной собственности, обход платного доступа, офлайн-генерация adversarial-примеров и восстановление приватных данных, «зашитых» в веса. Защита — лимиты запросов, выявление аномалий шаблонов доступа, водяные знаки на вывод, возврат лишь top-k меток и калиброванный шум на уверенностях.

Защита от Извлечение модели обычно сочетает технические меры и операционные практики, как описано в определении выше.

Распространённые альтернативные названия: Кража модели, Извлечение функциональности.