LLM 系统提示词泄露.

通过攻击使已部署的大型语言模型应用泄露其隐藏的系统提示词或指令,从而暴露其业务逻辑、密钥和工具定义。 它属于网络安全的 AI 与机器学习安全 分类。

通过攻击使已部署的大型语言模型应用泄露其隐藏的系统提示词或指令,从而暴露其业务逻辑、密钥和工具定义。

系统提示词泄露指攻击者诱导生产环境中的 LLM 应用披露其隐藏的系统提示词、开发者指令以及附带上下文 (如 API 密钥、内部文档、工具定义)。常见手法包括直接询问、角色扮演、翻译技巧、字符编码混淆,以及通过让模型总结的恶意文档进行间接提示注入。即使只泄露部分内容,也足以让攻击者反推业务逻辑、寻找绕过护栏的方式,并据此定制越狱与社会工程文案。常见缓解措施包括将系统提示词视为可被公开的低信任数据、不在提示词中放置密钥、在服务器端做策略检查、过滤输出,并指示模型不要透露指令,同时接受坚定的攻击者往往最终仍会成功这一现实。

针对 LLM 系统提示词泄露 的防御通常结合技术控制与运营实践,详见上方完整定义。

常见的别称包括: 系统提示词提取, 提示词外泄。