联邦学习中针对后门攻击的检测与防御方案

来源：计算机应用杂志2025年第8期北京时间：

作者：苏锦涛, 葛丽娜, 肖礼广, 邹经, 王哲

单位：1.广西民族大学 人工智能学院，南宁 530006；2.广西民族大学 网络通信工程重点实验室，南宁 530006；3.广西混杂计算与集成电路设计分析重点实验室（广西民族大学），南宁 530006

摘要：针对联邦学习（FL）系统中普遍存在的恶意后门攻击行为，以及现有防御方案难以在隐私保护与模型训练的高准确率之间取得平衡的难题，探索FL中的后门攻击及其防御方法，提出一种名为GKFL （Generative Knowledge-based Federated Learning）的安全高效集成方案用于检测后门攻击并修复受损模型。该方案无需访问参与方的原始隐私数据，通过中央服务器生成检测数据检测联邦学习中的聚合模型是否遭受后门入侵，并采用知识蒸馏技术恢复受损模型，从而确保模型的完整性和准确性。在数据集MNIST和Fashion-MNIST上的实验结果表明，GKFL的总体性能均优于经典方案FoolsGold、GeoMed和RFA （Robust Federated Aggregation）；GKFL比FoolsGold更能保护数据的隐私。可见，GKFL方案拥有检测后门攻击及修复受损模型的能力，并在模型中毒准确率和模型主任务准确率上明显优于对比方案。

关键词：联邦学习,后门攻击,数据安全,隐私保护,人工智能安全

基金资助：国家自然科学基金资助项目(61862007);广西自然科学基金面上项目(2024GXNSFAA010111)