在不平衡数据中进行高效通信的联邦学习

来源：计算机技术与发展杂志2021年第12期北京时间：

作者：舒志鸿;沈苏彬

单位：1. 南京邮电大学 计算机学院,江苏 南京 210046;2. 南京邮电大学 通信与网络技术国家工程研究中心,江苏 南京 210046

摘要：联邦学习( FL)是一种分布式的机器学习方法,它通过中心服务器汇总各个移动终端在本地训练的机器学习模型,使得多个参与方能够协作进行高效率的机器学习。 同时,FL 不需要将终端的私人数据发送至中心服务器,从而保护了数据隐私。 但是与普通的训练数据集不同,终端系统中的数据分布不平衡,这将导致 FL 的通信效率下降。 针对该问题,提出了一种基于数据分布加权聚合的 FL 算法。 通过计算参与方的本地数据集与平衡数据集之间的海林格距离对本地数据集的平衡程度进行了量化,并据此调整了参与方在聚合时的权重,以减少算法收敛或达到目标准确率所需的通信回合。提出的算法利用公开数据集进行了仿真实验。 实验结果表明,其与最新的算法联邦平均相比,通信成本降低了 14. 6% 以上,有效提升了数据不平衡时 FL 的通信效率。

关键词：联邦学习;机器学习;不平衡数据;海林格距离;聚合