Избыточная агентность (Excessive Agency).

Избыточная агентность — пункт LLM06 в OWASP Top 10 для приложений больших языковых моделей. Описывает класс рисков, возникающих, когда LLM-системе выдают больше инструментов, более широкие права или большую автономию, чем требует сценарий использования: например, агенту поддержки даны права записи в продакшн API биллинга, или код-ассистенту разрешено и читать репозитории, и без ревью пушить в main. Уязвимость кроется не в модели, а в окружающей системе: когда агент в итоге будет скомпрометирован (через prompt-инъекцию, галлюцинацию или просто ошибку), масштаб ущерба определяется именно тем, какие полномочия ему ранее предоставили. Меры смягчения опираются на принцип минимальных привилегий: сужать каждый инструмент до минимально необходимых данных и действий, требовать человеческого подтверждения для необратимых операций, предпочитать инструменты только для чтения или работу со стейджингом, разделять модели планирования и исполнения, инструментировать вызовы инструментов, чтобы аномальные последовательности всплывали в детектировании.