Контрабанда токенов.

Класс джейлбрейков, скрывающий вредоносные инструкции для LLM в кодировках, языках или последовательностях токенов, которые safety-фильтр не считает опасными. Относится к категории Безопасность ИИ и ML в кибербезопасности.

Класс джейлбрейков, скрывающий вредоносные инструкции для LLM в кодировках, языках или последовательностях токенов, которые safety-фильтр не считает опасными.

Контрабанда токенов эксплуатирует расхождение между тем, как модель токенизирует и декодирует текст, и тем, как его анализируют контентные классификаторы. Атакующие разбивают запрещённые слова на несколько токенов, используют Base64, ROT-13, Unicode-омоглифы, leet, малоресурсные языки или просят модель собрать вредоносную строку из безобидных фрагментов ("возьми вторую букву каждого слова"). Существуют варианты через входы инструментов и обфусцированные вызовы функций. Метод работает потому, что guardrails чаще проверяют поверхностный текст, а не восстановленный смысл. Защита — ансамбли классификаторов по декодированному тексту, семантическая детекция намерений, decoding-aware safety-модели, runtime-песочница вызовов инструментов и непрерывный adversarial red teaming.

Защита от Контрабанда токенов обычно сочетает технические меры и операционные практики, как описано в определении выше.

Распространённые альтернативные названия: Джейлбрейк через контрабанду токенов, Закодированная промпт-инъекция.