Marca de água de IA.

Técnicas que incorporam um sinal detetável em conteúdo gerado por IA para que a sua proveniência, modelo de origem ou pertença ao conjunto de treino possam ser verificados depois. Pertence à categoria Segurança de IA e ML da cibersegurança.

Técnicas que incorporam um sinal detetável em conteúdo gerado por IA para que a sua proveniência, modelo de origem ou pertença ao conjunto de treino possam ser verificados depois.

A marca de água de IA cobre um espetro: credenciais criptográficas de conteúdo como o C2PA, que anexam manifestos assinados aos media; marcas percetuais que modificam subtilmente píxeis ou áudio; e marcas ao nível do modelo que enviesam a amostragem de tokens de um LLM — como o SynthID Text da Google — tornando o texto gerado estatisticamente detetável. Apoiam os deveres de transparência do AI Act, ajudam as plataformas a rotular conteúdo de IA e auxiliam investigações forenses de desinformação, fraude e segurança infantil. A robustez face a corte, paráfrase, compressão e ataques adversariais é tema de investigação ativo, assim como garantir que a marca não degrada a qualidade nem revela impressões dos dados de treino.

As defesas contra Marca de água de IA costumam combinar controles técnicos e práticas operacionais, conforme detalhado na definição acima.

Nomes alternativos comuns: Proveniência de conteúdo, Marca de água para IA generativa.