KI-Governance.

Richtlinien, Prozesse, Rollen und Kontrollen, mit denen Organisationen und Regulierer sicherstellen, dass KI-Systeme verantwortungsvoll und rechtmäßig entwickelt, bereitgestellt und betrieben werden. Es gehört zur Kategorie KI- und ML-Sicherheit der Cybersicherheit.

Richtlinien, Prozesse, Rollen und Kontrollen, mit denen Organisationen und Regulierer sicherstellen, dass KI-Systeme verantwortungsvoll und rechtmäßig entwickelt, bereitgestellt und betrieben werden.

KI-Governance übersetzt ethische Grundsätze und gesetzliche Anforderungen in konkrete Kontrollen: Modellinventare, Risikoklassifizierung, Folgenabschätzungen, Freigabe-Gates, Transparenz, Monitoring und Verantwortlichkeit. Referenzrahmen sind das NIST AI Risk Management Framework (AI RMF) und sein 600-1 GenAI-Profil, der ISO/IEC-42001-Managementsystem-Standard, die OECD-AI-Prinzipien, der EU AI Act sowie Evaluationen der AI Safety Institutes in UK und USA. Funktionen reichen von Legal, Compliance, Security, Privacy bis hin zu ML-Engineering und Produkt. Reife Programme pflegen ein AIBOM, führen Red-Team- und Bias-Evaluationen durch, loggen alle Produktionsmodelle und bieten strukturierte Incident-Response- und Audit-Fähigkeiten für Regulatoren und Kunden.

Schutzmaßnahmen gegen KI-Governance kombinieren typischerweise technische Kontrollen und operative Praktiken, wie in der Definition oben beschrieben.

Übliche alternative Bezeichnungen: KI-Risikomanagement, Responsible-AI-Governance.