LLMjacking.

Ataque em que adversários usam credenciais de nuvem roubadas para acessar e abusar de serviços hospedados de grandes modelos de linguagem, gerando faturas elevadas de inferência para a vítima ou revendendo o acesso. Pertence à categoria Segurança de IA e ML da cibersegurança.

Ataque em que adversários usam credenciais de nuvem roubadas para acessar e abusar de serviços hospedados de grandes modelos de linguagem, gerando faturas elevadas de inferência para a vítima ou revendendo o acesso.

O LLMjacking é uma técnica de abuso da nuvem, batizada pela equipe de pesquisa de ameaças da Sysdig em 2024, em que atacantes obtêm credenciais de nuvem roubadas ou vazadas e as usam para acessar serviços gerenciados de grandes modelos de linguagem (LLM) como o Amazon Bedrock ou o Azure OpenAI. Em vez de exfiltrar dados, o atacante consome inferência paga às custas da vítima, muitas vezes sondando quais modelos e cotas estão habilitados antes de provocar um uso intenso capaz de gerar faturas muito altas. As chaves roubadas costumam ser encaminhadas por ferramentas de proxy reverso, para que os operadores ou seus clientes consultem modelos premium de forma anônima, revendendo na prática a conta de nuvem de outra pessoa. O LLMjacking é conceitualmente semelhante ao cryptojacking, mas visa a capacidade de inferência de IA em vez da mineração de criptomoedas, e é mitigado protegendo credenciais, restringindo permissões de modelos e monitorando uso anômalo e picos de custo.

As defesas contra LLMjacking costumam combinar controles técnicos e práticas operacionais, conforme detalhado na definição acima.

Nomes alternativos comuns: sequestro de LLM.