LLMjacking
Что такое LLMjacking?
LLMjackingАтака, при которой злоумышленники используют украденные облачные учётные данные для доступа к размещённым сервисам больших языковых моделей и злоупотребления ими, навязывая жертве крупные счета за вычисления или перепродавая доступ.
LLMjacking — это техника злоупотребления облаком, названная командой Sysdig Threat Research в 2024 году, при которой злоумышленники получают украденные или утёкшие облачные учётные данные и используют их для доступа к управляемым сервисам больших языковых моделей (LLM), таким как Amazon Bedrock или Azure OpenAI. Вместо кражи данных злоумышленник потребляет платный вывод модели за счёт жертвы, нередко сначала проверяя, какие модели и квоты включены, а затем создавая интенсивную нагрузку, способную привести к очень крупным счетам. Украденные ключи часто пропускаются через инструменты обратного прокси, чтобы операторы или их клиенты могли анонимно обращаться к премиум-моделям, фактически перепродавая чужой облачный аккаунт. LLMjacking концептуально схож с криптоджекингом, но нацелен на вычислительные мощности ИИ, а не на майнинг криптовалюты; защитой служат охрана учётных данных, ограничение разрешений на модели и мониторинг аномального использования и всплесков расходов.
● Примеры
- 01
Исследователи Sysdig раскрыли в 2024 году кампанию LLMjacking, в которой злоумышленники использовали учётные данные, украденные через уязвимое приложение, для доступа к размещённым в облаке LLM.
- 02
Команда безопасности обнаруживает LLMjacking, когда CloudTrail показывает неожиданные вызовы Bedrock InvokeModel из незнакомого региона, вызывающие резкий рост расходов.
● Частые вопросы
Что такое LLMjacking?
Атака, при которой злоумышленники используют украденные облачные учётные данные для доступа к размещённым сервисам больших языковых моделей и злоупотребления ими, навязывая жертве крупные счета за вычисления или перепродавая доступ. Относится к категории Безопасность ИИ и ML в кибербезопасности.
Что означает LLMjacking?
Атака, при которой злоумышленники используют украденные облачные учётные данные для доступа к размещённым сервисам больших языковых моделей и злоупотребления ими, навязывая жертве крупные счета за вычисления или перепродавая доступ.
Как защититься от LLMjacking?
Защита от LLMjacking обычно сочетает технические меры и операционные практики, как описано в определении выше.
Какие есть другие названия LLMjacking?
Распространённые альтернативные названия: захват LLM.