Privacidade diferencial
O que é Privacidade diferencial?
Privacidade diferencialQuadro matemático que quantifica a perda de privacidade ao divulgar estatísticas ou treinar modelos, adicionando ruído calibrado de modo que a contribuição de qualquer indivíduo seja provavelmente limitada.
A privacidade diferencial, formalizada por Dwork, McSherry, Nissim e Smith, garante que a probabilidade de qualquer saída varie no máximo um fator e^epsilon (e opcionalmente delta) quando um registo é acrescentado ou removido. Os mecanismos incluem Laplace, Gauss, exponencial e DP-SGD para aprendizagem automática. A perda acumulada é gerida com um orçamento de privacidade (epsilon-delta) e técnicas como advanced composition ou moments accountant. O Census Bureau dos EUA (censo 2020), Apple, Google e Microsoft adotaram-na em telemetria e estatísticas. Ao contrário de modelos sintáticos (k-anonimato, l-diversidade), oferece garantias demonstráveis e robustas perante qualquer conhecimento auxiliar do atacante.
● Exemplos
- 01
A Apple reporta frequências de emojis no teclado com privacidade diferencial local.
- 02
Treinar um modelo clínico com DP-SGD para impedir a memorização de registos de doentes.
● Perguntas frequentes
O que é Privacidade diferencial?
Quadro matemático que quantifica a perda de privacidade ao divulgar estatísticas ou treinar modelos, adicionando ruído calibrado de modo que a contribuição de qualquer indivíduo seja provavelmente limitada. Pertence à categoria Privacidade e proteção de dados da cibersegurança.
O que significa Privacidade diferencial?
Quadro matemático que quantifica a perda de privacidade ao divulgar estatísticas ou treinar modelos, adicionando ruído calibrado de modo que a contribuição de qualquer indivíduo seja provavelmente limitada.
Como funciona Privacidade diferencial?
A privacidade diferencial, formalizada por Dwork, McSherry, Nissim e Smith, garante que a probabilidade de qualquer saída varie no máximo um fator e^epsilon (e opcionalmente delta) quando um registo é acrescentado ou removido. Os mecanismos incluem Laplace, Gauss, exponencial e DP-SGD para aprendizagem automática. A perda acumulada é gerida com um orçamento de privacidade (epsilon-delta) e técnicas como advanced composition ou moments accountant. O Census Bureau dos EUA (censo 2020), Apple, Google e Microsoft adotaram-na em telemetria e estatísticas. Ao contrário de modelos sintáticos (k-anonimato, l-diversidade), oferece garantias demonstráveis e robustas perante qualquer conhecimento auxiliar do atacante.
Como se defender contra Privacidade diferencial?
As defesas contra Privacidade diferencial costumam combinar controles técnicos e práticas operacionais, conforme detalhado na definição acima.
Quais são outros nomes para Privacidade diferencial?
Nomes alternativos comuns: DP, Privacidade diferencial-epsilon.
● Termos relacionados
- privacy№ 274
Anonimização de dados
Transformação irreversível de dados pessoais para que nenhuma pessoa possa ser identificada, direta ou indiretamente, mesmo cruzando outras informações disponíveis.
- privacy№ 576
k-Anonimato
Modelo de privacidade proposto por Latanya Sweeney que exige que cada registo de um conjunto de dados seja indistinguível de pelo menos k-1 outros nos seus quase-identificadores.
- privacy№ 603
l-Diversidade
Extensão do k-anonimato proposta por Machanavajjhala et al. que exige que cada classe de equivalência contenha pelo menos l valores bem representados para cada atributo sensível.
- privacy№ 1126
t-Proximidade
Modelo de privacidade de Li, Li e Venkatasubramanian que reforça a l-diversidade limitando a distância entre a distribuição de um atributo sensível em cada classe e a distribuição global.
- privacy№ 875
Pseudonimização
Técnica que substitui os identificadores diretos dos dados pessoais por aliases reversíveis, de modo que os dados deixem de ser atribuíveis a uma pessoa sem informação adicional guardada em separado.
- privacy№ 280
Minimização de dados
Princípio de privacidade que obriga as organizações a recolher, tratar e conservar apenas os dados pessoais estritamente necessários a uma finalidade legítima definida.