Token Smuggling.

Klasse von Jailbreak-Techniken, die schädliche Anweisungen für ein LLM in Kodierungen, Sprachen oder Tokenfolgen verstecken, die der Sicherheitsfilter nicht als gefährlich erkennt. Es gehört zur Kategorie KI- und ML-Sicherheit der Cybersicherheit.

Klasse von Jailbreak-Techniken, die schädliche Anweisungen für ein LLM in Kodierungen, Sprachen oder Tokenfolgen verstecken, die der Sicherheitsfilter nicht als gefährlich erkennt.

Token Smuggling nutzt den Bruch zwischen der Tokenisierung und Dekodierung des Modells und der Sicht der Content-Klassifikatoren. Angreifer zerlegen verbotene Wörter über mehrere Tokens, nutzen Base64, ROT-13, Unicode-Homoglyphen, Leetspeak, ressourcenarme Sprachen oder lassen das Modell die schädliche Zeichenfolge aus unverdächtigen Bausteinen zusammensetzen ("nimm den zweiten Buchstaben jedes Wortes"). Varianten umfassen Smuggling über Tool-Eingaben und obfuskierte Funktionsaufrufe. Es funktioniert, weil Guardrails oft nur Oberflächentext prüfen, nicht die rekonstruierte Intention. Schutz: Klassifikator-Ensembles auf dekodiertem Text, semantische Intent-Detektion, decoding-aware Safety-Modelle, Sandboxing von Tool-Aufrufen und kontinuierliches adversarielles Red Teaming.

Schutzmaßnahmen gegen Token Smuggling kombinieren typischerweise technische Kontrollen und operative Praktiken, wie in der Definition oben beschrieben.

Übliche alternative Bezeichnungen: Token-Smuggling-Jailbreak, Kodierte Prompt Injection.