差分隐私.

一种数学框架,用于在发布统计或训练模型时量化隐私损失,通过加入经过校准的噪声使任何单个个体的影响在可证明的范围内。 它属于网络安全的 隐私与数据保护 分类。

一种数学框架,用于在发布统计或训练模型时量化隐私损失,通过加入经过校准的噪声使任何单个个体的影响在可证明的范围内。

差分隐私由 Dwork、McSherry、Nissim 和 Smith 形式化,保证当向数据集中添加或删除一条记录时,任意输出概率的变化不超过 e^epsilon(可附加 delta)。常见机制包括 Laplace、Gauss、指数机制,以及面向机器学习的 DP-SGD。累计隐私损失通过隐私预算 (epsilon-delta) 与高级组合或 moments accountant 进行跟踪。美国人口普查局(2020 年十年普查)、Apple、Google、Microsoft 已将其用于遥测与统计。与 k-匿名性、l-多样性等句法模型不同,差分隐私无论攻击者掌握何种辅助信息,都能提供可证明且具有前瞻性的隐私保证。

针对 差分隐私 的防御通常结合技术控制与运营实践,详见上方完整定义。

常见的别称包括: DP, epsilon-差分隐私。