Fuga de System Prompt de LLM.

Uma fuga de system prompt ocorre quando um utilizador leva uma aplicacao LLM em producao a revelar o seu prompt de sistema oculto, instrucoes do programador ou contexto anexado, como chaves de API, documentacao interna ou definicoes de ferramentas. Os atacantes recorrem a pedidos diretos, encenacoes de role-play, truques de traducao, ofuscacao por codificacao de caracteres ou injecao indireta de prompts atraves de documentos que o modelo e instruido a resumir. Mesmo fugas parciais ajudam a fazer engenharia reversa da logica de negocio, encontrar formas de contornar guardrails e desenhar jailbreaks ou conteudos de engenharia social a medida. As mitigacoes incluem tratar o system prompt como dado publico de baixa confianca, retirar segredos, aplicar verificacoes de politica no servidor, filtrar saidas e instruir o modelo a nao revelar as suas instrucoes, aceitando que adversarios determinados conseguem-no com frequencia.