Privacidade diferencial
O que é Privacidade diferencial?
Privacidade diferencialQuadro matemático que quantifica a perda de privacidade ao divulgar estatísticas ou treinar modelos, adicionando ruído calibrado de modo que a contribuição de qualquer indivíduo seja provavelmente limitada.
A privacidade diferencial, formalizada por Dwork, McSherry, Nissim e Smith, garante que a probabilidade de qualquer saída varie no máximo um fator e^epsilon (e opcionalmente delta) quando um registo é acrescentado ou removido. Os mecanismos incluem Laplace, Gauss, exponencial e DP-SGD para aprendizagem automática. A perda acumulada é gerida com um orçamento de privacidade (epsilon-delta) e técnicas como advanced composition ou moments accountant. O Census Bureau dos EUA (censo 2020), Apple, Google e Microsoft adotaram-na em telemetria e estatísticas. Ao contrário de modelos sintáticos (k-anonimato, l-diversidade), oferece garantias demonstráveis e robustas perante qualquer conhecimento auxiliar do atacante.
● Exemplos
- 01
A Apple reporta frequências de emojis no teclado com privacidade diferencial local.
- 02
Treinar um modelo clínico com DP-SGD para impedir a memorização de registos de doentes.
● Perguntas frequentes
O que é Privacidade diferencial?
Quadro matemático que quantifica a perda de privacidade ao divulgar estatísticas ou treinar modelos, adicionando ruído calibrado de modo que a contribuição de qualquer indivíduo seja provavelmente limitada. Pertence à categoria Privacidade e proteção de dados da cibersegurança.
O que significa Privacidade diferencial?
Quadro matemático que quantifica a perda de privacidade ao divulgar estatísticas ou treinar modelos, adicionando ruído calibrado de modo que a contribuição de qualquer indivíduo seja provavelmente limitada.
Como se defender contra Privacidade diferencial?
As defesas contra Privacidade diferencial costumam combinar controles técnicos e práticas operacionais, conforme detalhado na definição acima.
Quais são outros nomes para Privacidade diferencial?
Nomes alternativos comuns: DP, Privacidade diferencial-epsilon.