KI-Safety.

Disziplin, die unbeabsichtigte Schäden von KI-Systemen für Nutzer, Betreiber und Gesellschaft verhindern soll und technische, operative wie gesellschaftliche Aspekte umfasst. Es gehört zur Kategorie KI- und ML-Sicherheit der Cybersicherheit.

Disziplin, die unbeabsichtigte Schäden von KI-Systemen für Nutzer, Betreiber und Gesellschaft verhindern soll und technische, operative wie gesellschaftliche Aspekte umfasst.

KI-Safety ist breiter als klassische Security: Sie adressiert Schäden auch ohne Angreifer — Unfälle, Bias, Täuschung, außer Kontrolle geratenes autonomes Verhalten, Dual-Use-Missbrauch sowie katastrophale oder existenzielle Risiken. Technisch zählen Alignment, Interpretierbarkeit, Evaluierung, robustes Training, Monitoring und Capability Elicitation dazu. Operativ kommen Responsible-Scaling-Policies, Model Cards, Deployment-Guardrails und Zugriffskontrollen hinzu. Das UK und US AI Safety Institute, das EU AI Office, das NIST (AI RMF) und die Frontier-Labs veröffentlichen Standards. KI-Safety ist von KI-Security unterscheidbar, überlappt jedoch stark: Unsichere Modelle sind oft auch unsafe, unsichere Verhaltensweisen erschweren Incident Response.

Schutzmaßnahmen gegen KI-Safety kombinieren typischerweise technische Kontrollen und operative Praktiken, wie in der Definition oben beschrieben.

Übliche alternative Bezeichnungen: Frontier-AI-Safety, Verantwortungsvolle KI.