PFKD:综合考虑数据异构和模型异构的个性化联邦学习框架

来源：南京信息工程大学学报·自然科学版杂志2024年第4期北京时间：

作者：陈学斌，任志强

单位：陈学斌,华北理工大学 理学院/河北省数据科学与应用重点实验室/唐山市数据科学重点实验室, 唐山, 063210,任志强,华北理工大学 理学院/河北省数据科学与应用重点实验室/唐山市数据科学重点实验室, 唐山, 063210

摘要：联邦学习是解决机器学习中数据共享和隐私保护两个关键难题的重要方法.然而,联邦学习本身也面临着数据异构和模型异构的挑战.现有研究往往只专注于解决其中一个方面的问题,忽视了两者之间的关联性.为此,本文提出了一个名为PFKD的框架,该框架通过知识蒸馏技术解决模型异构问题,通过个性化算法解决数据异构问题,以实现更具个性化的联邦学习.通过实验分析验证了所提出框架的有效性.实验结果显示,该框架能够突破模型的性能瓶颈,提高模型精度约1个百分点.此外,在调整适当的超参数后,该框架的性能得到进一步提升.

关键词：联邦学习;数据异构;模型异构

基金资助：国家自然科学基金(U20A20179)