基于双向特征知识蒸馏的异构数据联邦学习方法

来源：计算机集成制造系统杂志2026年第5期北京时间：

作者：张诗强, 葛书杰, 杨永丽, 曹阳, 唐恒亮, 何忠民

单位：1.北京物资学院计算机与工人智能学院2.军事科学院战略评估咨询中心

摘要：为了应对异构数据分布导致的联邦学习效率问题,提出了一种基于双向特征知识蒸馏的异构数据联邦学习方法。首先将全局模型的参数抽象为特征知识和决策知识,显著减少了通信量,提升了系统的实时性和响应速度。在此基础上,通过引入相互学习机制,增强全局模型与局部模型之间的协同作用。全局模型负责聚合来自各节点的知识,而局部模型则专注于学习本地数据并贡献个性化知识。实验结果表明,该方法在处理数据异构性方面表现出色,并大幅提升了通信效率,特别适用于对实时性和低通信开销有较高要求的场景。

关键词：联邦学习,隐私保护,知识蒸馏,数据异构

基金资助：北京市教育委员会科技一般资助项目(KM202410037003,KM202110037002);北京物资学院校级青年科研基金资助项目(2023XJQN11)。