《电子与信息学报杂志》发表论文赏析
作者:宁博, 宁一鸣, 杨超, 周新, 李冠宇, 马茜
单位:1.大连海事大学信息科学技术学院 大连 1160262.国网辽宁省电力有限公司信息通信分公司 沈阳 110000
摘要:联邦学习是一种分布式机器学习方法,它使多个设备或节点能够协作训练模型,同时保持数据的本地性。但由于联邦学习是由不同方拥有的数据集进行模型训练,敏感数据可能会被泄露。为了改善上述问题,已有相关工作在联邦学习中应用差分隐私对梯度数据添加噪声。然而在采用了相应的隐私技术来降低敏感数据泄露风险的同时,模型精度和效果因为噪声大小的不同也受到了部分影响。为解决此问题,该文提出一种自适应聚类中心个数选择机制(DP-Fed-Adap),根据训练轮次和梯度的变化动态地改变聚类中心个数,使模型可以在保持相同性能水平的同时确保对敏感数据的保护。实验表明,在使用相同的隐私预算前提下DP-Fed-Adap与添加了差分隐私的联邦相似算法(FedSim)和联邦平均算法(FedAvg)相比,具有更好的模型性能和隐私保护效果。
关键词:联邦学习, 差分隐私保护, 梯度聚类, 自适应选择
基金资助:国家自然科学基金(61976032, 62002039)