LLMjacking.

Атака, при которой злоумышленники используют украденные облачные учётные данные для доступа к размещённым сервисам больших языковых моделей и злоупотребления ими, навязывая жертве крупные счета за вычисления или перепродавая доступ. Относится к категории Безопасность ИИ и ML в кибербезопасности.

Атака, при которой злоумышленники используют украденные облачные учётные данные для доступа к размещённым сервисам больших языковых моделей и злоупотребления ими, навязывая жертве крупные счета за вычисления или перепродавая доступ.

LLMjacking — это техника злоупотребления облаком, названная командой Sysdig Threat Research в 2024 году, при которой злоумышленники получают украденные или утёкшие облачные учётные данные и используют их для доступа к управляемым сервисам больших языковых моделей (LLM), таким как Amazon Bedrock или Azure OpenAI. Вместо кражи данных злоумышленник потребляет платный вывод модели за счёт жертвы, нередко сначала проверяя, какие модели и квоты включены, а затем создавая интенсивную нагрузку, способную привести к очень крупным счетам. Украденные ключи часто пропускаются через инструменты обратного прокси, чтобы операторы или их клиенты могли анонимно обращаться к премиум-моделям, фактически перепродавая чужой облачный аккаунт. LLMjacking концептуально схож с криптоджекингом, но нацелен на вычислительные мощности ИИ, а не на майнинг криптовалюты; защитой служат охрана учётных данных, ограничение разрешений на модели и мониторинг аномального использования и всплесков расходов.

Защита от LLMjacking обычно сочетает технические меры и операционные практики, как описано в определении выше.

Распространённые альтернативные названия: захват LLM.