Agence excessive
Qu'est-ce que Agence excessive ?
Agence excessiveOWASP LLM06 : accorder à un système piloté par LLM plus de fonctionnalités, de permissions ou d'autonomie qu'il n'en a réellement besoin, de sorte qu'une injection de prompt ou une erreur du modèle se traduit par un impact réel disproportionné.
L'agence excessive est le point LLM06 de l'OWASP Top 10 pour les applications de modèles de langage. Elle décrit la classe de dommages qui survient lorsqu'un système basé sur LLM se voit attribuer plus d'outils, de permissions ou d'autonomie que son cas d'usage ne le justifie — par exemple un agent de support avec accès en écriture à l'API de facturation de production, ou un assistant de code capable à la fois de lire les dépôts et de pousser directement sur main sans relecture. La vulnérabilité ne se situe pas dans le modèle mais dans le système qui l'entoure : lorsque l'agent finit par être subverti (injection de prompt, hallucination, simple mauvaise journée), le rayon d'impact est entièrement déterminé par les pouvoirs qu'on lui a confiés. Les mesures de mitigation suivent le principe du moindre privilège : restreindre chaque outil aux données et actions strictement nécessaires, exiger une approbation humaine pour les opérations irréversibles, privilégier les outils en lecture seule ou en staging, séparer les modèles de planification et d'exécution, et instrumenter les appels d'outils pour que les séquences anormales remontent à la détection.
● Exemples
- 01
Un outil de tri de tickets basé sur LLM dispose d'un accès admin complet au CRM et finit par modifier en masse des dossiers clients après une injection de prompt dans un e-mail de support.
- 02
Un agent de codage est restreint à l'ouverture de pull requests plutôt qu'au push direct sur main, de sorte qu'une mauvaise suggestion reste relisable au lieu de filer en production.
● Questions fréquentes
Qu'est-ce que Agence excessive ?
OWASP LLM06 : accorder à un système piloté par LLM plus de fonctionnalités, de permissions ou d'autonomie qu'il n'en a réellement besoin, de sorte qu'une injection de prompt ou une erreur du modèle se traduit par un impact réel disproportionné. Cette notion relève de la catégorie Sécurité de l'IA et du ML en cybersécurité.
Que signifie Agence excessive ?
OWASP LLM06 : accorder à un système piloté par LLM plus de fonctionnalités, de permissions ou d'autonomie qu'il n'en a réellement besoin, de sorte qu'une injection de prompt ou une erreur du modèle se traduit par un impact réel disproportionné.
Comment fonctionne Agence excessive ?
L'agence excessive est le point LLM06 de l'OWASP Top 10 pour les applications de modèles de langage. Elle décrit la classe de dommages qui survient lorsqu'un système basé sur LLM se voit attribuer plus d'outils, de permissions ou d'autonomie que son cas d'usage ne le justifie — par exemple un agent de support avec accès en écriture à l'API de facturation de production, ou un assistant de code capable à la fois de lire les dépôts et de pousser directement sur main sans relecture. La vulnérabilité ne se situe pas dans le modèle mais dans le système qui l'entoure : lorsque l'agent finit par être subverti (injection de prompt, hallucination, simple mauvaise journée), le rayon d'impact est entièrement déterminé par les pouvoirs qu'on lui a confiés. Les mesures de mitigation suivent le principe du moindre privilège : restreindre chaque outil aux données et actions strictement nécessaires, exiger une approbation humaine pour les opérations irréversibles, privilégier les outils en lecture seule ou en staging, séparer les modèles de planification et d'exécution, et instrumenter les appels d'outils pour que les séquences anormales remontent à la détection.
Comment se défendre contre Agence excessive ?
Les défenses contre Agence excessive combinent habituellement des contrôles techniques et des pratiques opérationnelles, comme détaillé dans la définition ci-dessus.
Quels sont les autres noms de Agence excessive ?
Noms alternatifs courants : LLM06, Agent IA sur-privilégié.
● Termes liés
- ai-security№ 870
OWASP LLM Top 10
Liste maintenue par l'OWASP recensant les dix risques de sécurité les plus critiques pour les applications bâties sur de grands modèles de langage.
- ai-security№ 027
Sécurité de l'IA agentique
Discipline visant à sécuriser les agents LLM autonomes qui planifient, appellent des outils et agissent sur des systèmes réels, où l'injection de prompt devient exécution distante et l'agence excessive un véritable rayon d'impact.
- identity-access№ 955
Principe du moindre privilège
Principe de sécurité accordant à chaque utilisateur, processus ou service uniquement les privilèges strictement nécessaires à sa fonction, et rien de plus.
- ai-security№ 689
Guardrails LLM
Mécanismes qui restreignent ce qu'une application LLM peut recevoir ou produire en appliquant des règles de safety, sécurité et métier autour du modèle sous-jacent.
- ai-security№ 969
Injection de prompt
Attaque qui détourne les instructions d'origine d'un LLM en insérant un texte adversarial dans le prompt, poussant le modèle à ignorer ses garde-fous ou exécuter les actions choisies par l'attaquant.
- ai-security№ 1285
Tool-Use Injection
Attacks that manipulate an LLM agent's tool-calling layer — forging tool arguments, smuggling instructions through tool outputs, or coaxing the model into calling unsanctioned tools.