AI-Modellkarte (Model Card)
Was ist AI-Modellkarte (Model Card)?
AI-Modellkarte (Model Card)Standardisiertes Dokument, 2018 von Margaret Mitchell und Kollegen eingeführt, das Verwendungszweck, Trainingsdaten, Leistung, Grenzen und ethische Aspekte eines ML-Modells beschreibt.
Model Cards wurden 2018 im Paper „Model Cards for Model Reporting" (arXiv:1810.03993) von Margaret Mitchell et al. bei Google vorgeschlagen und später auf der ACM FAccT (damals FAT*) 2019 präsentiert. Sie vereinheitlichen transparente Berichterstattung für ML-Modelle mit Abschnitten zu Verwendungszwecken und Out-of-Scope-Nutzungen, Trainings- und Evaluationsdaten, quantitativer Leistung aufgeschlüsselt nach demografischen oder operativen Slices, ethischen Aspekten und Empfehlungen. Anbieter wie Google, Hugging Face, OpenAI, Meta und Microsoft veröffentlichen Model Cards, und auf Hugging Face ist die Karte schlicht die README.md mit YAML-Metadaten (license, datasets, metrics), die Suche und Filter des Hubs speisen.
Das Format untermauert regulatorische Transparenz: Der EU AI Act verlangt technische Dokumentation für Hochrisiko- und General-Purpose-Modelle, und das NIST AI Risk Management Framework (AI RMF 1.0) behandelt Modelldokumentation als zentrale „Map/Measure"-Praxis. Sicherheitstechnisch ist eine Model Card ein Supply-Chain-Artefakt — verwandt mit einer AI Bill of Materials (AI-BOM) —, das Verteidigern hilft, Daten-Lineage, Lizenzrisiko und bekannte Failure-Modes zu beurteilen, bevor ein Drittanbietermodell integriert wird.
Doch Karten sind selbstberichtet und unsigniert: Sie können veraltet, unvollständig oder gefälscht sein, also sind sie ein Ausgangspunkt für Due Diligence, kein Sicherheitsnachweis. Die Kombination von Model Cards mit signierter Provenance (z. B. C2PA Content Credentials, mit Sigstore signierte Gewichte) und unabhängiger Red-Team-Evaluation schließt diese Vertrauenslücke.
flowchart TD
T[Modell trainiert / feinjustiert] --> A[Autor schreibt Model Card]
A --> S1[Vorgesehene und Out-of-Scope-Nutzungen]
A --> S2[Trainings- / Evaldaten und Lizenz]
A --> S3[Nach Slices aufgeschlüsselte Metriken]
A --> S4[Ethische und Sicherheitsaspekte]
S1 & S2 & S3 & S4 --> C[Veröffentlichte Model Card / README.md]
C --> R{Due Diligence des Konsumenten}
R -->|entspricht| G[AI-Governance, EU AI Act, NIST AI RMF]
R -->|prüfen mit| V[Signierte Provenance + Red-Team-Review]● Beispiele
- 01
Eine Hugging-Face-Model-Card mit Trainingsdaten, Lizenz, Bias-Evaluation und empfohlenen Use Cases.
- 02
Vendor-Due-Diligence-Checkliste, die für ein generatives AI-Add-on eine veröffentlichte Model Card verlangt.
● Häufige Fragen
Was ist AI-Modellkarte (Model Card)?
Standardisiertes Dokument, 2018 von Margaret Mitchell und Kollegen eingeführt, das Verwendungszweck, Trainingsdaten, Leistung, Grenzen und ethische Aspekte eines ML-Modells beschreibt. Es gehört zur Kategorie KI- und ML-Sicherheit der Cybersicherheit.
Was bedeutet AI-Modellkarte (Model Card)?
Standardisiertes Dokument, 2018 von Margaret Mitchell und Kollegen eingeführt, das Verwendungszweck, Trainingsdaten, Leistung, Grenzen und ethische Aspekte eines ML-Modells beschreibt.
Wie schützt man sich gegen AI-Modellkarte (Model Card)?
Schutzmaßnahmen gegen AI-Modellkarte (Model Card) kombinieren typischerweise technische Kontrollen und operative Praktiken, wie in der Definition oben beschrieben.
Welche anderen Bezeichnungen gibt es für AI-Modellkarte (Model Card)?
Übliche alternative Bezeichnungen: Model Card, ML-Modellkarte.