MLSecOps.

Disziplin, die Sicherheits- und Risikokontrollen über den gesamten ML-Lebenszyklus hinweg integriert — von der Datenerhebung über Training, Deployment und Monitoring bis zur Außerbetriebnahme. Es gehört zur Kategorie KI- und ML-Sicherheit der Cybersicherheit.

Disziplin, die Sicherheits- und Risikokontrollen über den gesamten ML-Lebenszyklus hinweg integriert — von der Datenerhebung über Training, Deployment und Monitoring bis zur Außerbetriebnahme.

MLSecOps erweitert DevSecOps auf Machine Learning. Daten, Code, Modelle, Prompts und Inferenz-Infrastruktur werden als erstklassige Assets behandelt, die Provenance, Signaturen, Schwachstellenmanagement und kontinuierliche Tests benötigen. Programme decken typischerweise Datensatz-Governance, Trainingsintegrität (gegen Poisoning und Backdoors), Supply-Chain-Kontrollen für Open-Source-Modelle und Abhängigkeiten, sichere Model Registries, Runtime-Monitoring auf Drift und Missbrauch, Red Teaming sowie Incident Response ab. Rahmenwerke wie NIST AI RMF, ISO/IEC 42001, MITRE ATLAS und OWASP ML/LLM Top 10 liefern eine gemeinsame Taxonomie. Reife Programme veröffentlichen AIBOMs, automatisieren Evaluations-Gates in CI/CD und richten sich nach Produktsicherheits- und Datenschutzpflichten aus.

Schutzmaßnahmen gegen MLSecOps kombinieren typischerweise technische Kontrollen und operative Praktiken, wie in der Definition oben beschrieben.

Übliche alternative Bezeichnungen: ML Security Operations, AI SecOps.