Marca de água de IA
O que é Marca de água de IA?
Marca de água de IATécnicas que incorporam um sinal detetável em conteúdo gerado por IA para que a sua proveniência, modelo de origem ou pertença ao conjunto de treino possam ser verificados depois.
A marca de água de IA cobre um espetro: credenciais criptográficas de conteúdo como o C2PA, que anexam manifestos assinados aos media; marcas percetuais que modificam subtilmente píxeis ou áudio; e marcas ao nível do modelo que enviesam a amostragem de tokens de um LLM — como o SynthID Text da Google — tornando o texto gerado estatisticamente detetável. Apoiam os deveres de transparência do AI Act, ajudam as plataformas a rotular conteúdo de IA e auxiliam investigações forenses de desinformação, fraude e segurança infantil. A robustez face a corte, paráfrase, compressão e ataques adversariais é tema de investigação ativo, assim como garantir que a marca não degrada a qualidade nem revela impressões dos dados de treino.
● Exemplos
- 01
Um serviço de geração de imagens que escreve Content Credentials C2PA e marca SynthID em cada exportação.
- 02
Uma plataforma que usa SynthID Text para sinalizar ensaios escritos por IA em fluxos de integridade académica.
● Perguntas frequentes
O que é Marca de água de IA?
Técnicas que incorporam um sinal detetável em conteúdo gerado por IA para que a sua proveniência, modelo de origem ou pertença ao conjunto de treino possam ser verificados depois. Pertence à categoria Segurança de IA e ML da cibersegurança.
O que significa Marca de água de IA?
Técnicas que incorporam um sinal detetável em conteúdo gerado por IA para que a sua proveniência, modelo de origem ou pertença ao conjunto de treino possam ser verificados depois.
Como se defender contra Marca de água de IA?
As defesas contra Marca de água de IA costumam combinar controles técnicos e práticas operacionais, conforme detalhado na definição acima.
Quais são outros nomes para Marca de água de IA?
Nomes alternativos comuns: Proveniência de conteúdo, Marca de água para IA generativa.