LLMjacking
Qu'est-ce que LLMjacking ?
LLMjackingAttaque dans laquelle des adversaires utilisent des identifiants cloud volés pour accéder à des services de grands modèles de langage hébergés et en abuser, générant de lourdes factures d'inférence pour la victime ou revendant l'accès.
Le LLMjacking est une technique d'abus du cloud, nommée par l'équipe de recherche sur les menaces de Sysdig en 2024, où des attaquants obtiennent des identifiants cloud volés ou divulgués et s'en servent pour accéder à des services gérés de grands modèles de langage (LLM) comme Amazon Bedrock ou Azure OpenAI. Plutôt que d'exfiltrer des données, l'attaquant consomme de l'inférence payante aux frais de la victime, sondant souvent quels modèles et quotas sont activés avant de provoquer un usage intensif susceptible de générer des factures très élevées. Les clés volées sont fréquemment acheminées via des outils de proxy inverse, afin que les opérateurs ou leurs clients interrogent anonymement des modèles premium, revendant de fait le compte cloud d'autrui. Le LLMjacking est conceptuellement proche du cryptojacking, mais vise la capacité d'inférence d'IA plutôt que le minage de cryptomonnaie ; il se contre en protégeant les identifiants, en restreignant les permissions des modèles et en surveillant les usages anormaux et les pics de coûts.
● Exemples
- 01
Les chercheurs de Sysdig ont révélé en 2024 une campagne de LLMjacking où les attaquants ont utilisé des identifiants volés via une application vulnérable pour accéder à des LLM hébergés dans le cloud.
- 02
Une équipe de sécurité détecte du LLMjacking lorsque CloudTrail montre des appels InvokeModel Bedrock inattendus provenant d'une région inhabituelle et déclenchant une hausse soudaine des coûts.
● Questions fréquentes
Qu'est-ce que LLMjacking ?
Attaque dans laquelle des adversaires utilisent des identifiants cloud volés pour accéder à des services de grands modèles de langage hébergés et en abuser, générant de lourdes factures d'inférence pour la victime ou revendant l'accès. Cette notion relève de la catégorie Sécurité de l'IA et du ML en cybersécurité.
Que signifie LLMjacking ?
Attaque dans laquelle des adversaires utilisent des identifiants cloud volés pour accéder à des services de grands modèles de langage hébergés et en abuser, générant de lourdes factures d'inférence pour la victime ou revendant l'accès.
Comment fonctionne LLMjacking ?
Le LLMjacking est une technique d'abus du cloud, nommée par l'équipe de recherche sur les menaces de Sysdig en 2024, où des attaquants obtiennent des identifiants cloud volés ou divulgués et s'en servent pour accéder à des services gérés de grands modèles de langage (LLM) comme Amazon Bedrock ou Azure OpenAI. Plutôt que d'exfiltrer des données, l'attaquant consomme de l'inférence payante aux frais de la victime, sondant souvent quels modèles et quotas sont activés avant de provoquer un usage intensif susceptible de générer des factures très élevées. Les clés volées sont fréquemment acheminées via des outils de proxy inverse, afin que les opérateurs ou leurs clients interrogent anonymement des modèles premium, revendant de fait le compte cloud d'autrui. Le LLMjacking est conceptuellement proche du cryptojacking, mais vise la capacité d'inférence d'IA plutôt que le minage de cryptomonnaie ; il se contre en protégeant les identifiants, en restreignant les permissions des modèles et en surveillant les usages anormaux et les pics de coûts.
Comment se défendre contre LLMjacking ?
Les défenses contre LLMjacking combinent habituellement des contrôles techniques et des pratiques opérationnelles, comme détaillé dans la définition ci-dessus.
Quels sont les autres noms de LLMjacking ?
Noms alternatifs courants : détournement de LLM.
● Termes liés
- malware№ 279
Cryptojacking
Utilisation non autorisée des ressources informatiques d'autrui pour miner de la cryptomonnaie, généralement via un logiciel malveillant ou un script de navigateur.
- ai-security№ 1143
Shadow AI
Utilisation par les employés d'outils, modèles ou services d'IA sans la connaissance ni l'approbation des fonctions sécurité, vie privée ou gouvernance de l'organisation.
- ai-security№ 973
Injection de prompt
Attaque qui détourne les instructions d'origine d'un LLM en insérant un texte adversarial dans le prompt, poussant le modèle à ignorer ses garde-fous ou exécuter les actions choisies par l'attaquant.
- attacks№ 258
Bourrage d'identifiants
Attaque automatisée qui rejoue d'énormes listes de couples identifiant/mot de passe issues d'une fuite contre d'autres services, exploitant la réutilisation des mots de passe.
- cloud-security№ 213
Sécurité du cloud
Ensemble de politiques, contrôles et technologies qui protègent les données, applications et infrastructures hébergées dans des environnements cloud publics, privés ou hybrides.
- defense-ops№ 445
Exfiltration
Tactique MITRE ATT&CK (TA0010) couvrant les techniques utilisées pour transférer les données volées du réseau victime vers un emplacement contrôlé par l'attaquant.