Privacidad diferencial
¿Qué es Privacidad diferencial?
Privacidad diferencialMarco matemático que cuantifica la pérdida de privacidad al publicar estadísticas o entrenar modelos, añadiendo ruido calibrado para acotar de forma demostrable la influencia de cualquier individuo.
La privacidad diferencial, formalizada por Dwork, McSherry, Nissim y Smith, garantiza que la probabilidad de cualquier salida cambie como máximo un factor e^epsilon (y opcionalmente delta) cuando se añade o elimina un registro de un conjunto. Sus mecanismos incluyen Laplace, Gauss, exponencial y DP-SGD para aprendizaje automático. La pérdida acumulada se gestiona mediante un presupuesto de privacidad (epsilon-delta) y técnicas de composición avanzadas o moments accountant. La Oficina del Censo de EE. UU. (censo 2020), Apple, Google y Microsoft la han implantado en telemetría y estadísticas. A diferencia de los modelos sintácticos (k-anonimidad, l-diversidad), ofrece garantías demostrables y duraderas, independientemente del conocimiento auxiliar del atacante.
● Ejemplos
- 01
Apple reporta frecuencias de emojis del teclado mediante privacidad diferencial local.
- 02
Entrenar un modelo sanitario con DP-SGD para que no se memoricen registros de pacientes.
● Preguntas frecuentes
¿Qué es Privacidad diferencial?
Marco matemático que cuantifica la pérdida de privacidad al publicar estadísticas o entrenar modelos, añadiendo ruido calibrado para acotar de forma demostrable la influencia de cualquier individuo. Pertenece a la categoría de Privacidad y protección de datos en ciberseguridad.
¿Qué significa Privacidad diferencial?
Marco matemático que cuantifica la pérdida de privacidad al publicar estadísticas o entrenar modelos, añadiendo ruido calibrado para acotar de forma demostrable la influencia de cualquier individuo.
¿Cómo funciona Privacidad diferencial?
La privacidad diferencial, formalizada por Dwork, McSherry, Nissim y Smith, garantiza que la probabilidad de cualquier salida cambie como máximo un factor e^epsilon (y opcionalmente delta) cuando se añade o elimina un registro de un conjunto. Sus mecanismos incluyen Laplace, Gauss, exponencial y DP-SGD para aprendizaje automático. La pérdida acumulada se gestiona mediante un presupuesto de privacidad (epsilon-delta) y técnicas de composición avanzadas o moments accountant. La Oficina del Censo de EE. UU. (censo 2020), Apple, Google y Microsoft la han implantado en telemetría y estadísticas. A diferencia de los modelos sintácticos (k-anonimidad, l-diversidad), ofrece garantías demostrables y duraderas, independientemente del conocimiento auxiliar del atacante.
¿Cómo defenderse de Privacidad diferencial?
Las defensas contra Privacidad diferencial combinan habitualmente controles técnicos y prácticas operativas, como se detalla en la definición.
¿Cuáles son otros nombres para Privacidad diferencial?
Nombres alternativos comunes: DP, Privacidad diferencial-epsilon.
● Términos relacionados
- privacy№ 274
Anonimización de datos
Transformación irreversible de datos personales para que nadie pueda ser identificado, directa o indirectamente, ni siquiera al combinarlos con otra información disponible.
- privacy№ 576
k-Anonimidad
Modelo de privacidad propuesto por Latanya Sweeney que exige que cada registro de un conjunto sea indistinguible de al menos k-1 más según sus cuasi-identificadores.
- privacy№ 603
l-Diversidad
Extensión de la k-anonimidad propuesta por Machanavajjhala et al. que exige que cada clase de equivalencia contenga al menos l valores bien representados para cada atributo sensible.
- privacy№ 1126
t-Cercanía
Modelo de privacidad de Li, Li y Venkatasubramanian que refuerza la l-diversidad limitando cuánto puede diferir la distribución de un atributo sensible en cada clase respecto a la distribución global.
- privacy№ 875
Seudonimización
Técnica que sustituye los identificadores directos de los datos personales por alias reversibles, de modo que dejen de poder atribuirse a una persona sin información adicional guardada por separado.
- privacy№ 280
Minimización de datos
Principio de privacidad que obliga a recoger, tratar y conservar únicamente los datos personales estrictamente necesarios para una finalidad legítima definida.