LLMjacking.

Angriff, bei dem Angreifer gestohlene Cloud-Anmeldedaten nutzen, um gehostete Large-Language-Model-Dienste zu missbrauchen, dem Opfer hohe Inferenzkosten aufzubürden oder den Zugang weiterzuverkaufen. Es gehört zur Kategorie KI- und ML-Sicherheit der Cybersicherheit.

Angriff, bei dem Angreifer gestohlene Cloud-Anmeldedaten nutzen, um gehostete Large-Language-Model-Dienste zu missbrauchen, dem Opfer hohe Inferenzkosten aufzubürden oder den Zugang weiterzuverkaufen.

LLMjacking ist eine vom Sysdig Threat Research Team 2024 benannte Cloud-Missbrauchstechnik, bei der Angreifer gestohlene oder geleakte Cloud-Anmeldedaten erlangen und damit auf verwaltete Large-Language-Model-Dienste (LLM) wie Amazon Bedrock oder Azure OpenAI zugreifen. Statt Daten zu exfiltrieren, verbraucht der Angreifer kostenpflichtige Modell-Inferenz auf Kosten des Opfers und sondiert oft zunächst, welche Modelle und Kontingente freigeschaltet sind, bevor er eine intensive Nutzung auslöst, die sehr hohe Rechnungen verursachen kann. Gestohlene Schlüssel werden häufig über Reverse-Proxy-Tools geleitet, damit die Betreiber oder deren Kunden Premium-Modelle anonym abfragen und so faktisch das Cloud-Konto eines Dritten weiterverkaufen. LLMjacking ähnelt konzeptionell dem Cryptojacking, zielt aber auf KI-Inferenzkapazität statt auf Kryptomining; Gegenmaßnahmen sind der Schutz von Anmeldedaten, die Einschränkung von Modellberechtigungen sowie die Überwachung anomaler Nutzung und Kostenspitzen.

Schutzmaßnahmen gegen LLMjacking kombinieren typischerweise technische Kontrollen und operative Praktiken, wie in der Definition oben beschrieben.

Übliche alternative Bezeichnungen: LLM-Hijacking.