过度授权(Excessive Agency).

OWASP LLM06:为基于 LLM 的系统授予超出实际需要的功能、权限或自主性,使一次提示注入或模型失误就足以造成超出预期的现实影响。 它属于网络安全的 AI 与机器学习安全 分类。

OWASP LLM06:为基于 LLM 的系统授予超出实际需要的功能、权限或自主性,使一次提示注入或模型失误就足以造成超出预期的现实影响。

过度授权是 OWASP 大型语言模型应用 Top 10 中的第六项(LLM06)。它描述的是这样一类风险:基于 LLM 的系统被授予了远超其用例所需的工具、权限或自主性 —— 例如客服智能体拥有生产环境计费 API 的写入权限,或者代码助手既能读仓库又能直接 push 到 main 而无需评审。漏洞本身并不在模型,而在它周围的系统:一旦智能体被攻陷(无论是因为提示注入、幻觉,还是只是出错),其影响范围完全取决于此前被授予的能力。常见缓解依循最小权限原则:把每个工具的数据和动作范围收敛到最小集合,对不可逆操作要求人工审批,尽量使用只读或预发环境工具,把规划模型与执行模型分离,并对工具调用做埋点,以便异常序列能在检测层显现。

针对 过度授权(Excessive Agency) 的防御通常结合技术控制与运营实践,详见上方完整定义。

常见的别称包括: LLM06, 权限过大的 AI 智能体。