联邦学习深度梯度反演攻防研究进展

来源：电子与信息学报杂志2024年第2期北京时间：

作者：孙钰, 严宇, 崔剑, 熊高剑, 刘建华

单位：1.北京航空航天大学网络空间安全学院 北京 1001912.空天网络安全工业和信息化部重点实验室(北京航空航天大学) 北京 100191

摘要：联邦学习作为一种“保留数据所有权，释放数据使用权”的分布式机器学习方法，打破了阻碍大数据建模的数据孤岛。然而，联邦学习在训练过程中只交换梯度而不交换训练数据的特点并不能保证用户训练数据的机密性。近年来新型的深度梯度反演攻击表明，敌手可从共享梯度中重建用户的私有训练数据，从而对联邦学习的私密性产生了严重威胁。随着梯度反演技术的演进，敌手从深层网络恢复大批量原始数据的能力不断增强，甚至对加密梯度的隐私保护联邦学习(PPFL)发起了挑战。而有效的针对性防御方法主要基于扰动变换，旨在混淆梯度、输入或特征以隐藏敏感信息。该文首先指出了隐私保护联邦学习的梯度反演漏洞，并给出了梯度反演威胁模型。之后从攻击范式、攻击能力、攻击对象3个角度对深度梯度反演攻击进行详细梳理。随后将基于扰动变换的防御方法依据扰动对象的不同分为梯度扰动、输入扰动、特征扰动3类，并对各类方法中的代表性工作进行分析介绍。最后，对未来研究工作进行展望。

关键词：联邦学习, 梯度反演, 数据重建, 标签恢复, 扰动变换

基金资助：国家自然科学基金(32071775)