AI モデルカード.

2018 年に Margaret Mitchell らが提案した、機械学習モデルの想定用途、訓練データ、性能、限界、倫理的考察を記述する標準的なドキュメント。 サイバーセキュリティの AI / ML セキュリティ カテゴリに属します。

2018 年に Margaret Mitchell らが提案した、機械学習モデルの想定用途、訓練データ、性能、限界、倫理的考察を記述する標準的なドキュメント。

モデルカードは、Google の Margaret Mitchell ら(2018 年)の論文「Model Cards for Model Reporting」で提案されました。ML モデルに対する透明な情報開示のテンプレートを定義し、想定用途と非対象用途、訓練・評価データ、属性や運用条件で分解した性能、既知の倫理的論点、推奨事項などのセクションを備えます。Google、Hugging Face、OpenAI、Meta、Microsoft をはじめとする主要プロバイダがモデルカードを公開しており、欧州 AI 法や米国 NIST AI Risk Management Framework の透明性要求の基盤としても機能しています。セキュリティの観点では、モデルカードは攻撃面、データ来歴、既知の失敗モードを理解する助けとなり、外部モデルを製品に組み込む前のデューデリジェンスを支えます。

AI モデルカード に対する防御は通常、上記の定義で述べたとおり、技術的統制と運用上の実践を組み合わせます。

一般的な別名: モデルカード, ML モデルカード。