Governança de IA
O que é Governança de IA?
Governança de IAConjunto de políticas, processos, papéis e controlos usados por organizações e reguladores para garantir que sistemas de IA são desenvolvidos, implementados e operados de forma responsável e conforme à lei.
A governança de IA traduz princípios éticos e obrigações legais em controlos concretos: inventários de modelos, classificação de risco, avaliações de impacto, portões de aprovação, transparência, monitorização e responsabilização. Referenciais: NIST AI Risk Management Framework (AI RMF) e perfil 600-1 sobre IA generativa, norma ISO/IEC 42001, princípios OCDE, AI Act europeu e avaliações dos AI Safety Institutes do Reino Unido e EUA. Envolve jurídico, compliance, segurança, privacidade, engenharia de ML e produto. Programas maduros mantêm um AIBOM, realizam red teaming e avaliações de viés, registam todas as versões em produção e dispõem de capacidades estruturadas de resposta a incidentes e auditoria.
● Exemplos
- 01
Uma empresa mantém um inventário de modelos mapeado aos níveis de risco do AI Act e aos controlos ISO/IEC 42001.
- 02
Um comité interno aprova cada implantação de modelo de alto risco, com evidências de red team e avaliação de viés.
● Perguntas frequentes
O que é Governança de IA?
Conjunto de políticas, processos, papéis e controlos usados por organizações e reguladores para garantir que sistemas de IA são desenvolvidos, implementados e operados de forma responsável e conforme à lei. Pertence à categoria Segurança de IA e ML da cibersegurança.
O que significa Governança de IA?
Conjunto de políticas, processos, papéis e controlos usados por organizações e reguladores para garantir que sistemas de IA são desenvolvidos, implementados e operados de forma responsável e conforme à lei.
Como funciona Governança de IA?
A governança de IA traduz princípios éticos e obrigações legais em controlos concretos: inventários de modelos, classificação de risco, avaliações de impacto, portões de aprovação, transparência, monitorização e responsabilização. Referenciais: NIST AI Risk Management Framework (AI RMF) e perfil 600-1 sobre IA generativa, norma ISO/IEC 42001, princípios OCDE, AI Act europeu e avaliações dos AI Safety Institutes do Reino Unido e EUA. Envolve jurídico, compliance, segurança, privacidade, engenharia de ML e produto. Programas maduros mantêm um AIBOM, realizam red teaming e avaliações de viés, registam todas as versões em produção e dispõem de capacidades estruturadas de resposta a incidentes e auditoria.
Como se defender contra Governança de IA?
As defesas contra Governança de IA costumam combinar controles técnicos e práticas operacionais, conforme detalhado na definição acima.
Quais são outros nomes para Governança de IA?
Nomes alternativos comuns: Gestão de risco de IA, Governança de IA responsável.
● Termos relacionados
- ai-security№ 033
Safety de IA
Disciplina que procura evitar que sistemas de IA causem danos não intencionais a utilizadores, operadores e à sociedade, abrangendo dimensões técnicas, operacionais e sociais.
- ai-security№ 024
Alinhamento de IA
Esforço de investigação e engenharia para garantir que os sistemas de IA perseguem objetivos, seguem instruções e se comportam de acordo com as intenções dos seus desenvolvedores e utilizadores.
- ai-security№ 691
MLSecOps
Disciplina que integra controlos de segurança e risco em todo o ciclo de vida do machine learning, desde a recolha de dados até treino, implementação, monitorização e desativação.
- ai-security№ 025
AI Bill of Materials (AIBOM)
Inventário legível por máquina de cada componente de um sistema de IA — datasets, modelos base, dados de fine-tuning, bibliotecas, prompts e artefactos de avaliação — usado para segurança, conformidade e responsabilização.
- ai-security№ 032
Red team de IA
Equipa especializada que simula adversários contra sistemas de IA para descobrir riscos de segurança, safety e uso indevido antes dos atacantes reais.
- ai-security№ 029
Resposta a incidentes de IA
Conjunto de processos, papéis e playbooks que uma organização usa para detetar, conter, investigar, comunicar e recuperar de incidentes envolvendo sistemas de IA.
● Veja também
- № 704Inversão de modelo
- № 666Ataque de inferência de pertença
- № 297Deepfake
- № 1123Média sintética
- № 035Marca de água de IA
- № 1026Shadow AI
- № 729Ataque Nightshade
- № 026Deteção de conteúdo gerado por IA