基于自适应模型剪枝的联邦遗忘学习方法研究

来源：电子与信息学报杂志2025年第11期北京时间：

作者：马振国, 和孜轩, 孙彦景, 王博文, 刘建春, 徐宏力

单位：1.中国矿业大学计算机科学与技术学院 徐州 2211162.中国矿业大学人工智能学院 徐州 2211163.中国矿业大学信息与控制工程学院 徐州 2211164.中国矿业大学物联网(感知矿山)研究中心 徐州 2211165.中国科学技术大学计算机科学与技术学院 合肥 2300266.中国科学技术大学苏州高等研究院 苏州 215123

摘要：随着物联网(IoT)设备数量的指数级增长和《个人信息保护法》等法规的相继实施，联邦遗忘学习在边缘计算(EC)中已成为保障数据“被遗忘权”的关键技术。然而，边缘节点普遍存在的资源异构性—计算能力、存储容量和网络带宽等差异，导致基于全局统一剪枝策略的类级遗忘方法(遗忘某类训练数据)面临训练效率下降的困境。为了应对上述挑战，该文针对类级遗忘场景，提出了一种基于自适应模型剪枝的联邦遗忘学习框架(FunAMP)，通过降低节点之间的等待时间提高模型训练效率。首先，该文建立了模型训练时间、节点资源与模型剪枝比之间的定量关系，并据此给出自适应模型剪枝问题的形式化定义。随后，设计了一种基于贪心策略的剪枝比决策算法，根据每个节点的计算和通信资源为其分配合适的剪枝比，并分析该算法的近似比，为算法性能提供理论保证。接着，确立了一种基于词频-逆文频的相关性指标来衡量模型参数与目标类数据之间的关系，根据该指标和分配的剪枝比将与目标类数据相关的模型参数去除，从而在实现目标类数据遗忘的同时最大限度地降低模型训练时间。实验结果表明，FunAMP在达到相同准确率的情况下，相比现有方法最高可实现11.8倍的加速比。

关键词：联邦遗忘学习, 资源异构, 自适应模型剪枝, 相关性指标, 性能分析

基金资助：中央高校基本科研业务费专项资金(XJ2025012301)，深圳市科技计划(KCXFZ20240903094204007)