更新时间:2021-12-17 GMT+08:00
分享

差分隐私算法

背景

  • 联邦学习的隐私风险主要分为本地隐私风险和全局隐私风险两方面。本地隐私风险是指从本地模型改变量中可以恢复本地数据信息。全局隐私风险是指全局模型改变量对本地数据具有记忆性,同样可以恢复本地数据信息。
  • 差分隐私通过给数据添加噪声使数据失真的思想保护隐私。

算法原理

针对本地隐私风险,在向服务端发送模型改变量之前,每个客户端给本地模型改变量加上差分隐私噪声,使攻击者无法恢复本地数据。

针对全局隐私风险,在服务端给全局模型改变量加上差分噪声,使攻击者无法从全局模型改变量中恢复单个客户端数据。

算法效果

采用差分隐私算法提升了联邦学习隐私保护能力,但是由于差分隐私没有逆过程,会在一定程度上降低联邦模型的可用性。

算法效果测试结果如图1所示,可以看出引入差分隐私算法后,联邦模型准确率下降。
图1 差分隐私算法对模型准确率影响
分享:

    相关文档

    相关产品

close