Governança de IA
O que é Governança de IA?
Governança de IAConjunto de políticas, processos, papéis e controlos usados por organizações e reguladores para garantir que sistemas de IA são desenvolvidos, implementados e operados de forma responsável e conforme à lei.
A governança de IA traduz princípios éticos e obrigações legais em controlos concretos: inventários de modelos, classificação de risco, avaliações de impacto, portões de aprovação, transparência, monitorização e responsabilização. Referenciais: NIST AI Risk Management Framework (AI RMF) e perfil 600-1 sobre IA generativa, norma ISO/IEC 42001, princípios OCDE, AI Act europeu e avaliações dos AI Safety Institutes do Reino Unido e EUA. Envolve jurídico, compliance, segurança, privacidade, engenharia de ML e produto. Programas maduros mantêm um AIBOM, realizam red teaming e avaliações de viés, registam todas as versões em produção e dispõem de capacidades estruturadas de resposta a incidentes e auditoria.
● Exemplos
- 01
Uma empresa mantém um inventário de modelos mapeado aos níveis de risco do AI Act e aos controlos ISO/IEC 42001.
- 02
Um comité interno aprova cada implantação de modelo de alto risco, com evidências de red team e avaliação de viés.
● Perguntas frequentes
O que é Governança de IA?
Conjunto de políticas, processos, papéis e controlos usados por organizações e reguladores para garantir que sistemas de IA são desenvolvidos, implementados e operados de forma responsável e conforme à lei. Pertence à categoria Segurança de IA e ML da cibersegurança.
O que significa Governança de IA?
Conjunto de políticas, processos, papéis e controlos usados por organizações e reguladores para garantir que sistemas de IA são desenvolvidos, implementados e operados de forma responsável e conforme à lei.
Como se defender contra Governança de IA?
As defesas contra Governança de IA costumam combinar controles técnicos e práticas operacionais, conforme detalhado na definição acima.
Quais são outros nomes para Governança de IA?
Nomes alternativos comuns: Gestão de risco de IA, Governança de IA responsável.