基于几何关系的跨模型通用扰动生成方法

来源：计算机应用杂志2023年第11期北京时间：

作者：张济慈, 范纯龙, 李彩龙, 郑学东

单位：沈阳航空航天大学 计算机学院，沈阳 110136

摘要：对抗攻击通过在神经网络模型的输入样本上添加经设计的扰动，使模型高置信度地输出错误结果。对抗攻击研究主要针对单一模型应用场景，对多模型的攻击主要通过跨模型迁移攻击来实现，而关于跨模型通用攻击方法的研究很少。通过分析多模型攻击扰动的几何关系，明确了不同模型间对抗方向的正交性和对抗方向与决策边界间的正交性，并据此设计了跨模型通用攻击算法和相应的优化策略。在CIFAR10、SVHN数据集和六种常见神经网络模型上，对所提算法进行了多角度的跨模型对抗攻击验证。实验结果表明，给定实验场景下的算法攻击成功率为1.0，二范数模长不大于0.9，相较于跨模型迁移攻击，所提算法在六种模型上的平均攻击成功率最多提高57%，并且具有更好的通用性。

关键词：深度学习,对抗样本生成,对抗攻击,跨模型攻击,分类器

基金资助：国家自然科学基金资助项目(61972266)