Дифференциальная приватность
Что такое Дифференциальная приватность?
Дифференциальная приватностьМатематическая модель, количественно оценивающая утечку приватности при публикации статистики или обучении моделей за счёт добавления калиброванного шума, ограничивающего вклад любого индивида.
Дифференциальная приватность, формализованная Dwork, McSherry, Nissim и Smith, гарантирует, что вероятность любого результата меняется не более чем в e^epsilon раз (с опциональной добавкой delta) при добавлении или удалении одной записи из набора. Используются механизмы Лапласа, Гаусса, экспоненциальный, а также DP-SGD для машинного обучения. Накопленные потери приватности отслеживаются бюджетом (epsilon-delta) с применением advanced composition или moments accountant. Бюро переписи США (перепись 2020), Apple, Google и Microsoft применяют её в телеметрии и статистике. В отличие от синтаксических моделей (k-анонимность, l-разнообразие), она даёт доказуемые гарантии независимо от внешних знаний атакующего.
● Примеры
- 01
Apple собирает частоту использования эмодзи на клавиатуре с помощью локальной дифференциальной приватности.
- 02
Обучение медицинской модели с DP-SGD, чтобы исключить запоминание отдельных пациентов.
● Частые вопросы
Что такое Дифференциальная приватность?
Математическая модель, количественно оценивающая утечку приватности при публикации статистики или обучении моделей за счёт добавления калиброванного шума, ограничивающего вклад любого индивида. Относится к категории Приватность и защита данных в кибербезопасности.
Что означает Дифференциальная приватность?
Математическая модель, количественно оценивающая утечку приватности при публикации статистики или обучении моделей за счёт добавления калиброванного шума, ограничивающего вклад любого индивида.
Как работает Дифференциальная приватность?
Дифференциальная приватность, формализованная Dwork, McSherry, Nissim и Smith, гарантирует, что вероятность любого результата меняется не более чем в e^epsilon раз (с опциональной добавкой delta) при добавлении или удалении одной записи из набора. Используются механизмы Лапласа, Гаусса, экспоненциальный, а также DP-SGD для машинного обучения. Накопленные потери приватности отслеживаются бюджетом (epsilon-delta) с применением advanced composition или moments accountant. Бюро переписи США (перепись 2020), Apple, Google и Microsoft применяют её в телеметрии и статистике. В отличие от синтаксических моделей (k-анонимность, l-разнообразие), она даёт доказуемые гарантии независимо от внешних знаний атакующего.
Как защититься от Дифференциальная приватность?
Защита от Дифференциальная приватность обычно сочетает технические меры и операционные практики, как описано в определении выше.
Какие есть другие названия Дифференциальная приватность?
Распространённые альтернативные названия: DP, ε-дифференциальная приватность.
● Связанные термины
- privacy№ 274
Анонимизация данных
Необратимое преобразование персональных данных таким образом, чтобы ни один человек не мог быть идентифицирован прямо или косвенно, даже при объединении с другими данными.
- privacy№ 576
k-анонимность
Модель приватности, предложенная Latanya Sweeney, требующая, чтобы каждая запись в наборе данных была неотличима по квази-идентификаторам как минимум от k-1 других записей.
- privacy№ 603
l-разнообразие
Расширение k-анонимности, предложенное Machanavajjhala и соавторами, которое требует, чтобы в каждом классе эквивалентности было не менее l хорошо представленных значений каждого чувствительного атрибута.
- privacy№ 1126
t-близость
Модель приватности Li, Li и Venkatasubramanian, усиливающая l-разнообразие за счёт ограничения отклонения распределения чувствительного атрибута в классе от его глобального распределения.
- privacy№ 875
Псевдонимизация
Метод замены прямых идентификаторов в персональных данных обратимыми алиасами, после чего данные нельзя соотнести с человеком без отдельно хранимой дополнительной информации.
- privacy№ 280
Минимизация данных
Принцип приватности, требующий собирать, обрабатывать и хранить только те персональные данные, которые строго необходимы для заявленной законной цели.