OWASP LLM Top 10
OWASP LLM Top 10 是什么?
OWASP LLM Top 10由 OWASP 维护的清单,列出对基于大型语言模型构建的应用最关键的十大安全风险。
OWASP 在 2023 年首次发布,并以 "OWASP Top 10 for LLM Applications" 名义持续更新,列举提示词注入(LLM01)、不安全输出处理、训练数据投毒、模型拒绝服务、供应链漏洞、敏感信息泄露、不安全插件设计、过度授权、过度依赖与模型窃取等风险。每项均给出攻击场景、业务影响以及面向开发者、架构师、安全团队的缓解建议。该项目延续了 OWASP Web Top 10 的结构和影响力,被 NIST、ENISA、MITRE ATLAS 以及欧盟《人工智能法》指南广泛引用,用以确立 LLM 安全部署的基准要求。
● 示例
- 01
在 RAG 应用的威胁建模中,将 LLM01(提示词注入)与 LLM02(不安全输出处理)设为必检项。
- 02
在批准企业级 GenAI 上线前,将供应商安全问卷映射到 OWASP LLM Top 10。
● 常见问题
OWASP LLM Top 10 是什么?
由 OWASP 维护的清单,列出对基于大型语言模型构建的应用最关键的十大安全风险。 它属于网络安全的 AI 与机器学习安全 分类。
OWASP LLM Top 10 是什么意思?
由 OWASP 维护的清单,列出对基于大型语言模型构建的应用最关键的十大安全风险。
OWASP LLM Top 10 是如何工作的?
OWASP 在 2023 年首次发布,并以 "OWASP Top 10 for LLM Applications" 名义持续更新,列举提示词注入(LLM01)、不安全输出处理、训练数据投毒、模型拒绝服务、供应链漏洞、敏感信息泄露、不安全插件设计、过度授权、过度依赖与模型窃取等风险。每项均给出攻击场景、业务影响以及面向开发者、架构师、安全团队的缓解建议。该项目延续了 OWASP Web Top 10 的结构和影响力,被 NIST、ENISA、MITRE ATLAS 以及欧盟《人工智能法》指南广泛引用,用以确立 LLM 安全部署的基准要求。
如何防御 OWASP LLM Top 10?
针对 OWASP LLM Top 10 的防御通常结合技术控制与运营实践,详见上方完整定义。
OWASP LLM Top 10 还有哪些其他名称?
常见的别称包括: OWASP LLM 应用 Top 10, OWASP LLM01-LLM10。
● 相关术语
- ai-security№ 866
提示词注入
通过向提示中夹带对抗性文本来覆盖 LLM 原有指令的攻击,使模型忽略安全限制或执行攻击者指定的操作。
- ai-security№ 528
间接提示词注入
提示词注入的变种,恶意指令被隐藏在第三方内容(网页、文档、邮件)中,由 LLM 通过检索、浏览或工具调用而读入。
- ai-security№ 898
RAG 安全
保护检索增强生成(RAG)流水线的实践,确保为 LLM 提供素材的文档、向量库与检索步骤无法被投毒、滥用或用于数据外泄。
- ai-security№ 034
AI 供应链风险
组织在构建和部署 AI 系统时所组合的第三方数据集、基础模型、依赖库、插件与基础设施带来的威胁集合。
- ai-security№ 618
LLM 守护栏
约束基于 LLM 的应用能接收或输出哪些内容的机制,围绕底层模型落实 Safety、安全与业务规则。
- ai-security№ 691
MLSecOps
在机器学习全生命周期(数据收集、训练、部署、监控到退役)中整合安全与风险控制的实践。