基于剪枝的轻量级联邦智能学习算法

来源：计算机测量与控制杂志2025年第4期北京时间：

作者：张泰宁,汤子娇

单位：中国电子科技集团第五十四研究所

摘要：针对深度学习模型中工作节点异构性导致的训练效率低下和全局模型准确性无法保证的问题，提出了一种基于剪枝的轻量级联邦学习框架FedPrune；采用“教师-学生模型”架构，通过自适应剪枝方案从全局基础模型中动态生成适应不同工作节点能力的子模型，实现轻量级的智能算法在资源受限的设备中高效执行，并提出动态自适应剪枝率学习方法，使各工作节点在相互不知晓能力的情况下实现相同更新时间；与2种本地解决方案FedAVG、FedRC和两种全局解决方案FedAsync、SSP算法在CIFAR10、CIFAR100、Tiny-ImageNet数据集上进行对比实验，FedPrune具有更高的准确性和更短的总体时间；FedPrune框架通过动态生成适应不同工作节点能力的子模型，有效解决了掉队问题，并在异构环境中保持了高精度和高速度，证明了其在联邦学习中的效率和适用性。

关键词：深度学习;联邦学习;教师-学生模型;自适应剪枝;剪枝率学习