AI サプライチェーンリスク.

AI システムを構築・運用するために組織が組み合わせる、第三者のデータセット・ベースモデル・ライブラリ・プラグイン・インフラから生じる脅威の集合。 サイバーセキュリティの AI / ML セキュリティ カテゴリに属します。

AI システムを構築・運用するために組織が組み合わせる、第三者のデータセット・ベースモデル・ライブラリ・プラグイン・インフラから生じる脅威の集合。

現代の AI はゼロから作られることは稀で、チームは Hugging Face からベースモデルを取得し、公開クロールのデータセットを使い、Python/Node パッケージをインストールし、ベクトル DB を統合し、ホスト型モデル API を消費します。各リンクはサプライチェーンリスクです——汚染やバックドア入りの重み、悪意ある pickle、PyPI 上の typosquatting パッケージ、データセットに埋め込まれたプロンプトインジェクションペイロード、依存関係混乱(dependency confusion)、改ざんされたプラグイン、安全でない推論基盤など。OWASP LLM Top 10 はサプライチェーン脆弱性を明示し、NIST AI 100-2 や EU AI Act もトレーサビリティを求めています。対策は AIBOM、署名済みモデル成果物(モデル向け Sigstore、Model Signing Spec)、来歴トラッキング、サンドボックスでの重みロード、依存関係のピン留め、上流レジストリの継続監視です。

AI サプライチェーンリスク に対する防御は通常、上記の定義で述べたとおり、技術的統制と運用上の実践を組み合わせます。

一般的な別名: AI/ML サプライチェーンリスク, モデルサプライチェーン。