AI Bill of Materials(AIBOM)
AI Bill of Materials(AIBOM) とは何ですか?
AI Bill of Materials(AIBOM)データセット・ベースモデル・ファインチューニングデータ・ライブラリ・プロンプト・評価成果物など、AI システムを構成するすべての要素を機械可読でまとめた一覧。セキュリティ・コンプライアンス・説明責任に用いる。
AIBOM は SBOM の考え方を AI システムに拡張したものです。CISA の AIBOM ワーキンググループ、SPDX 3 の AI プロファイル、CycloneDX ML-BOM、EU AI Act の技術ドキュメント要件などが、データセットの来歴とライセンス、ベースモデルの識別子・バージョン、ファインチューニング手順、ハイパーパラメーター、評価結果、既知の限界といったメタデータを規定します。AIBOM があれば、汚染データセットやバックドア入りベースモデルの影響範囲を追跡し、規制対応を示し、AI サプライチェーンリスクを管理し、モデルリコールを支援し、脆弱性データベース(OSV-AI、MITRE ATLAS)に情報を供給できます。成熟した MLSecOps では学習パイプラインから AIBOM を自動生成し、署名済みモデル成果物と共に保管します。
● 例
- 01
モデルリリースに添付された CycloneDX ML-BOM ファイルが、ベースモデル・データセット・ファインチューニングデータをハッシュ付きで列挙する。
- 02
脆弱な埋め込みモデルの影響を受けた製品すべてを、インシデント対応で AIBOM を用いて特定する。
● よくある質問
AI Bill of Materials(AIBOM) とは何ですか?
データセット・ベースモデル・ファインチューニングデータ・ライブラリ・プロンプト・評価成果物など、AI システムを構成するすべての要素を機械可読でまとめた一覧。セキュリティ・コンプライアンス・説明責任に用いる。 サイバーセキュリティの AI / ML セキュリティ カテゴリに属します。
AI Bill of Materials(AIBOM) とはどういう意味ですか?
データセット・ベースモデル・ファインチューニングデータ・ライブラリ・プロンプト・評価成果物など、AI システムを構成するすべての要素を機械可読でまとめた一覧。セキュリティ・コンプライアンス・説明責任に用いる。
AI Bill of Materials(AIBOM) はどのように機能しますか?
AIBOM は SBOM の考え方を AI システムに拡張したものです。CISA の AIBOM ワーキンググループ、SPDX 3 の AI プロファイル、CycloneDX ML-BOM、EU AI Act の技術ドキュメント要件などが、データセットの来歴とライセンス、ベースモデルの識別子・バージョン、ファインチューニング手順、ハイパーパラメーター、評価結果、既知の限界といったメタデータを規定します。AIBOM があれば、汚染データセットやバックドア入りベースモデルの影響範囲を追跡し、規制対応を示し、AI サプライチェーンリスクを管理し、モデルリコールを支援し、脆弱性データベース(OSV-AI、MITRE ATLAS)に情報を供給できます。成熟した MLSecOps では学習パイプラインから AIBOM を自動生成し、署名済みモデル成果物と共に保管します。
AI Bill of Materials(AIBOM) からどのように防御しますか?
AI Bill of Materials(AIBOM) に対する防御は通常、上記の定義で述べたとおり、技術的統制と運用上の実践を組み合わせます。
AI Bill of Materials(AIBOM) の別名は何ですか?
一般的な別名: AIBOM, ML-BOM。
● 関連用語
- appsec№ 1068
ソフトウェア部品表(SBOM)
ソフトウェアを構成するコンポーネント・ライブラリ・依存関係を、バージョンや関係とともに機械可読な形で正式に列挙したインベントリ。
- ai-security№ 034
AI サプライチェーンリスク
AI システムを構築・運用するために組織が組み合わせる、第三者のデータセット・ベースモデル・ライブラリ・プラグイン・インフラから生じる脅威の集合。
- ai-security№ 691
MLSecOps
データ収集・学習・デプロイ・運用監視・廃止まで、機械学習のライフサイクル全体にセキュリティとリスク管理を統合する取り組み。
- ai-security№ 027
AI ガバナンス
組織と規制当局が、AI システムを責任あるかつ合法的な形で開発・展開・運用するために用いる方針・プロセス・役割・統制の総体。
- ai-security№ 029
AI インシデント対応
AI システムに関わるインシデントの検知・封じ込め・調査・周知・復旧のために組織が用いるプロセス・役割・プレイブックの総体。
- ai-security№ 281
データポイズニング
敵対者が学習データを注入・改ざん・再ラベル付けし、得られるモデルが誤動作したり隠れたバックドアを含んだりするように仕向ける機械学習システムへの攻撃。
● 関連項目
- № 081バックドア攻撃(ML)
- № 035AI ウォーターマーキング
- № 1026シャドー AI
- № 391EU AI 法