MLSecOps
O que é MLSecOps?
MLSecOpsDisciplina que integra controlos de segurança e risco em todo o ciclo de vida do machine learning, desde a recolha de dados até treino, implementação, monitorização e desativação.
O MLSecOps estende o DevSecOps ao machine learning. Trata dados, código, modelos, prompts e infraestrutura de inferência como ativos de primeira classe que precisam de proveniência, assinatura, gestão de vulnerabilidades e testes contínuos. Os programas costumam cobrir governança de datasets, integridade no treino (contra poisoning e backdoors), controlos de cadeia de fornecimento para modelos open-source e dependências, registos de modelos seguros, monitorização em runtime, red teaming e resposta a incidentes. Os referenciais NIST AI RMF, ISO/IEC 42001, MITRE ATLAS e OWASP ML/LLM Top 10 dão uma taxonomia comum. Programas maduros publicam AIBOM, automatizam portões de avaliação em CI/CD e alinham-se com segurança de produto e privacidade.
● Exemplos
- 01
Pipeline CI/CD que bloqueia a implementação do modelo se os scores de avaliação adversarial ou viés caírem além do limiar.
- 02
Registo central que guarda hashes de datasets, configurações de treino e resultados de red team de cada modelo em produção.
● Perguntas frequentes
O que é MLSecOps?
Disciplina que integra controlos de segurança e risco em todo o ciclo de vida do machine learning, desde a recolha de dados até treino, implementação, monitorização e desativação. Pertence à categoria Segurança de IA e ML da cibersegurança.
O que significa MLSecOps?
Disciplina que integra controlos de segurança e risco em todo o ciclo de vida do machine learning, desde a recolha de dados até treino, implementação, monitorização e desativação.
Como se defender contra MLSecOps?
As defesas contra MLSecOps costumam combinar controles técnicos e práticas operacionais, conforme detalhado na definição acima.
Quais são outros nomes para MLSecOps?
Nomes alternativos comuns: Operações de segurança de ML, AI SecOps.