Управление ИИ (AI Governance).

Совокупность политик, процессов, ролей и средств контроля, с помощью которых организации и регуляторы обеспечивают ответственную и законную разработку, развёртывание и эксплуатацию ИИ-систем. Относится к категории Безопасность ИИ и ML в кибербезопасности.

Совокупность политик, процессов, ролей и средств контроля, с помощью которых организации и регуляторы обеспечивают ответственную и законную разработку, развёртывание и эксплуатацию ИИ-систем.

AI governance переводит этические принципы и нормативные требования в конкретные контроли: реестры моделей, классификация риска, оценки воздействия, контрольные точки утверждения, прозрачность, мониторинг и подотчётность. Опорные фреймворки — NIST AI Risk Management Framework (AI RMF) и его профиль 600-1 для генеративного ИИ, стандарт системы менеджмента ISO/IEC 42001, принципы OECD, EU AI Act, оценки AI Safety Institute в UK и США. Функции охватывают legal, compliance, security, privacy, ML-инжиниринг и продукт. Зрелые программы ведут AIBOM, проводят red team и оценки bias, фиксируют все продакшен-версии моделей и обеспечивают структурированное реагирование на инциденты и аудиты под нужды регуляторов и клиентов.

Защита от Управление ИИ (AI Governance) обычно сочетает технические меры и операционные практики, как описано в определении выше.

Распространённые альтернативные названия: Управление рисками ИИ, Ответственное управление ИИ.