联邦学习
联邦学习 是什么?
联邦学习一种分布式机器学习范式,众多客户端在中央协调者的协调下共同训练模型,而原始数据始终保留在本地设备上。
联邦学习(Federated Learning,FL)允许大量参与方(手机、医院、银行等)在不集中训练数据的前提下,共同训练一个共享的机器学习模型。每个客户端在本地数据上计算梯度或模型更新,并仅将该更新上传给聚合方,聚合方通常通过 FedAvg 将其合并为新的全局模型。由于原始更新仍可能泄露训练数据的信息,现代部署会叠加多层密码学保护:安全聚合、差分隐私,有时还包括同态加密或 MPC。Google 于 2017 年在 Gboard 输入建议中率先采用联邦学习,目前已广泛应用于医疗影像、跨机构反欺诈以及大模型的端侧个性化。
● 示例
- 01
Gboard 从数百万部手机中学习下一个词预测,而不将用户输入的文本发送到 Google 的服务器。
- 02
医院联盟在不让患者数据离开各自机构的前提下联合训练诊断模型。
● 常见问题
联邦学习 是什么?
一种分布式机器学习范式,众多客户端在中央协调者的协调下共同训练模型,而原始数据始终保留在本地设备上。 它属于网络安全的 密码学 分类。
联邦学习 是什么意思?
一种分布式机器学习范式,众多客户端在中央协调者的协调下共同训练模型,而原始数据始终保留在本地设备上。
联邦学习 是如何工作的?
联邦学习(Federated Learning,FL)允许大量参与方(手机、医院、银行等)在不集中训练数据的前提下,共同训练一个共享的机器学习模型。每个客户端在本地数据上计算梯度或模型更新,并仅将该更新上传给聚合方,聚合方通常通过 FedAvg 将其合并为新的全局模型。由于原始更新仍可能泄露训练数据的信息,现代部署会叠加多层密码学保护:安全聚合、差分隐私,有时还包括同态加密或 MPC。Google 于 2017 年在 Gboard 输入建议中率先采用联邦学习,目前已广泛应用于医疗影像、跨机构反欺诈以及大模型的端侧个性化。
如何防御 联邦学习?
针对 联邦学习 的防御通常结合技术控制与运营实践,详见上方完整定义。
联邦学习 还有哪些其他名称?
常见的别称包括: FL, 联邦机器学习。
● 相关术语
- cryptography№ 987
安全多方计算(MPC)
一类密码协议,允许多方在不泄露各自私有输入的前提下,共同计算某个函数并只获得最终结果。
- cryptography№ 481
同态加密
一种加密方案,允许在密文上直接进行计算,得到的加密结果与对明文执行相同操作的结果一致。
- cryptography№ 859
隐私集合交集(PSI)
一种密码协议,允许两个或多个参与方计算各自私有集合的交集,而不泄露其他不相同的元素。
- cryptography№ 1265
零知识证明(ZKP)
一种密码协议,证明方可在不向验证方泄露除命题真伪以外任何信息的前提下,使其确信某项陈述为真。
- cryptography№ 249
密码学
通过数学技术在存在攻击者的情况下提供机密性、完整性、真实性和不可否认性的信息安全科学。
- cryptography№ 1152
门限密码学
一类密码方案,将一个秘密密钥拆分到 n 个参与方手中,只有其中任意 t 方共同合作才能完成签名、解密或其他密钥操作,小于 t 方则无法进行。