AI サプライチェーンリスク
AI サプライチェーンリスク とは何ですか?
AI サプライチェーンリスクAI システムを構築・運用するために組織が組み合わせる、第三者のデータセット・ベースモデル・ライブラリ・プラグイン・インフラから生じる脅威の集合。
現代の AI はゼロから作られることは稀で、チームは Hugging Face からベースモデルを取得し、公開クロールのデータセットを使い、Python/Node パッケージをインストールし、ベクトル DB を統合し、ホスト型モデル API を消費します。各リンクはサプライチェーンリスクです——汚染やバックドア入りの重み、悪意ある pickle、PyPI 上の typosquatting パッケージ、データセットに埋め込まれたプロンプトインジェクションペイロード、依存関係混乱(dependency confusion)、改ざんされたプラグイン、安全でない推論基盤など。OWASP LLM Top 10 はサプライチェーン脆弱性を明示し、NIST AI 100-2 や EU AI Act もトレーサビリティを求めています。対策は AIBOM、署名済みモデル成果物(モデル向け Sigstore、Model Signing Spec)、来歴トラッキング、サンドボックスでの重みロード、依存関係のピン留め、上流レジストリの継続監視です。
● 例
- 01
Hugging Face にアップロードされたモデルが、ロード時にコード実行を行う悪意ある pickle ペイロードを含む。
- 02
PyPI 上の typosquatting されたベクトル DB クライアントライブラリが、インストール時に API キーを外部へ送出する。
● よくある質問
AI サプライチェーンリスク とは何ですか?
AI システムを構築・運用するために組織が組み合わせる、第三者のデータセット・ベースモデル・ライブラリ・プラグイン・インフラから生じる脅威の集合。 サイバーセキュリティの AI / ML セキュリティ カテゴリに属します。
AI サプライチェーンリスク とはどういう意味ですか?
AI システムを構築・運用するために組織が組み合わせる、第三者のデータセット・ベースモデル・ライブラリ・プラグイン・インフラから生じる脅威の集合。
AI サプライチェーンリスク からどのように防御しますか?
AI サプライチェーンリスク に対する防御は通常、上記の定義で述べたとおり、技術的統制と運用上の実践を組み合わせます。
AI サプライチェーンリスク の別名は何ですか?
一般的な別名: AI/ML サプライチェーンリスク, モデルサプライチェーン。