Entry № 040
AI 供应链风险
AI 供应链风险 是什么?
AI 供应链风险组织在构建和部署 AI 系统时所组合的第三方数据集、基础模型、依赖库、插件与基础设施带来的威胁集合。
现代 AI 很少从零构建。团队从 Hugging Face 拉取基础模型,使用来自公开爬取的数据集,安装 Python/Node 包,集成向量数据库,调用托管模型 API。每一环都构成供应链风险:被投毒或植入后门的模型权重、含恶意代码的 pickle 文件、PyPI 上的 typosquatting 包、嵌在数据集中的提示词注入载荷、依赖混淆、被入侵的插件以及不安全的推理基础设施。OWASP LLM Top 10 明确列出了供应链漏洞,NIST AI 100-2 与欧盟《人工智能法》也推动可追溯性。控制措施包括 AIBOM、签名的模型制品(模型 Sigstore、Model Signing Spec)、来源追踪、在沙箱中加载权重、固定依赖版本,以及对上游注册中心的持续监控。
● 示例
- 01
Hugging Face 上的某个模型被上传时附带恶意 pickle 载荷,加载时即执行任意代码。
- 02
PyPI 上一个被 typosquatting 的向量数据库客户端库,在安装阶段就外泄 API 密钥。
● 常见问题
AI 供应链风险 是什么?
组织在构建和部署 AI 系统时所组合的第三方数据集、基础模型、依赖库、插件与基础设施带来的威胁集合。 它属于网络安全的 AI 与机器学习安全 分类。
AI 供应链风险 是什么意思?
组织在构建和部署 AI 系统时所组合的第三方数据集、基础模型、依赖库、插件与基础设施带来的威胁集合。
如何防御 AI 供应链风险?
针对 AI 供应链风险 的防御通常结合技术控制与运营实践,详见上方完整定义。
AI 供应链风险 还有哪些其他名称?
常见的别称包括: AI/ML 供应链风险, 模型供应链。