基于本地差分隐私的异步横向联邦安全梯度聚合方案

来源：电子与信息学报杂志2024年第7期北京时间：

作者：魏立斐, 张无忌, 张蕾, 胡雪晖, 王绪安

单位：1.上海海洋大学信息学院 上海 2013062.上海海事大学信息工程学院 上海 2013063.上海同态信息科技有限责任公司 上海 2002354.武警工程大学 陕西 西安 710086

摘要：联邦学习作为一种新兴的分布式机器学习框架，通过在用户私有数据不出域的情况下进行联合建模训练，有效地解决了传统机器学习中的数据孤岛和隐私泄露问题。然而，联邦学习存在着训练滞后的客户端拖累全局训练速度的问题，异步联邦学习允许用户在本地完成模型更新后立即上传到服务端并参与到聚合任务中，而无需等待其他用户训练完成。然而，异步联邦学习也存在着无法识别恶意用户上传的错误模型，以及泄露用户隐私的问题。针对这些问题，该文设计一种面向隐私保护的异步联邦的安全梯度聚合方案(SAFL)。用户采用本地差分隐私策略，对本地训练的模型添加扰动并上传到服务端，服务端通过投毒检测算法剔除恶意用户，以实现安全聚合(SA)。最后，理论分析和实验表明在异步联邦学习的场景下，提出的方案能够有效识别出恶意用户，保护用户的本地模型隐私，减少隐私泄露风险，并相对于其他方案在模型的准确率上有较大的提升。

关键词：安全聚合, 本地差分隐私, 隐私保护, 恶意投毒攻击, 异步联邦学习

基金资助：国家自然科学基金(61972241, 62172436)，上海市自然科学基金(22ZR1427100)，陕西省自然科学基金(2023-JC-YB-584) ，上海市软科学研究项目(23692106700)