Shadow AI
Что такое Shadow AI?
Shadow AIИспользование сотрудниками ИИ-инструментов, моделей или сервисов без ведома или одобрения функций безопасности, приватности или governance в организации.
Shadow AI — преемник shadow IT в эпоху ИИ. Сотрудники вставляют исходный код, контракты, данные клиентов или стратегические документы в потребительские чат-боты, ставят несогласованные браузерные copilots и IDE-расширения или дообучают локальные модели на конфиденциальных данных. Риски включают утечку данных, потерю интеллектуальной собственности, нарушения требований (GDPR, HIPAA), промпт-инъекции через неуправляемые инструменты и неконтролируемые выходы моделей, попадающие в продакшен-решения. Меры противодействия — реестр и политика ИИ, санкционированные альтернативы (корпоративный GenAI с DLP и аудитом), контроль egress и CASB, изолированные браузерные рабочие процессы, обучение пользователей. Программы обычно выравниваются с NIST AI RMF и ISO/IEC 42001, интегрируя Shadow AI в общую AI governance.
● Примеры
- 01
Инженеры вставляют проприетарный код в бесплатный потребительский чат-бот для отладки.
- 02
Маркетинговая команда использует непроверенный AI-переводчик, который хранит отправленный текст на сторонних серверах.
● Частые вопросы
Что такое Shadow AI?
Использование сотрудниками ИИ-инструментов, моделей или сервисов без ведома или одобрения функций безопасности, приватности или governance в организации. Относится к категории Безопасность ИИ и ML в кибербезопасности.
Что означает Shadow AI?
Использование сотрудниками ИИ-инструментов, моделей или сервисов без ведома или одобрения функций безопасности, приватности или governance в организации.
Как защититься от Shadow AI?
Защита от Shadow AI обычно сочетает технические меры и операционные практики, как описано в определении выше.
Какие есть другие названия Shadow AI?
Распространённые альтернативные названия: Несанкционированный ИИ, BYOAI.