Agencia excesiva.

OWASP LLM06: dar a un sistema basado en LLM más funcionalidad, permisos o autonomía de los que realmente necesita, de modo que una inyección de prompt o un error del modelo se traduzca en un impacto real desproporcionado. Pertenece a la categoría de Seguridad de IA y ML en ciberseguridad.

OWASP LLM06: dar a un sistema basado en LLM más funcionalidad, permisos o autonomía de los que realmente necesita, de modo que una inyección de prompt o un error del modelo se traduzca en un impacto real desproporcionado.

La agencia excesiva es el ítem LLM06 del OWASP Top 10 para aplicaciones de modelos de lenguaje. Describe la clase de daños que aparecen cuando un sistema basado en LLM recibe más herramientas, permisos más amplios o mayor autonomía de los que su caso de uso justifica — por ejemplo, un agente de soporte con permisos de escritura en la API de facturación de producción, o un asistente de código que puede leer repositorios y a la vez hacer push a main sin revisión. La vulnerabilidad no está en el modelo, sino en el sistema que lo rodea: cuando el agente acaba siendo subvertido (por inyección de prompt, alucinación o simplemente un mal día), el área de impacto la define lo que se le ha permitido hacer. Las mitigaciones siguen el principio de mínimo privilegio: acotar cada herramienta a los datos y acciones mínimos necesarios, exigir aprobación humana para operaciones irreversibles, preferir herramientas de solo lectura o en entornos de staging, separar los modelos de planificación y ejecución, e instrumentar las llamadas para que secuencias anómalas afloren en detección.

Las defensas contra Agencia excesiva combinan habitualmente controles técnicos y prácticas operativas, como se detalla en la definición.

Nombres alternativos comunes: LLM06, Agente de IA con privilegios excesivos.