基于样本预处理的低成本对抗样本防御算法

来源：计算机应用杂志2024年第9期北京时间：

作者：陈虓, 昌燕, 王丹琛, 张仕斌

单位：1.成都信息工程大学 网络空间安全学院, 成都 610225；2.先进密码技术与系统安全四川省重点实验室(成都信息工程大学), 成都 610225；3.四川省数字经济研究中心, 成都 610021

摘要：为尽可能防御现有的各种针对人工智能算法（特别是人工神经网络）的攻击方法，同时降低由此带来的额外开销，提出基于样本预处理的藤牌算法。通过切割图像非重要信息部分、邻近像素值统一化和图像放缩3种方法对样本进行预处理，破坏对抗扰动，生成对模型威胁更小的新样本，以确保模型识别的高准确率。实验结果表明，藤牌算法可以在比同类算法开销更小的情况下，防御针对MNIST、CIFAR10数据集和squeezenet1_1、mnasnet1_3、mobilenet_v3_large神经网络模型的对抗攻击，防御后的样本准确率最低可达88.50%；同时在处理干净样本时也不会过多降低样本准确率，防御效果和防御成本都优于FGSM（Fast Gradient Sign Method）和MIM（Momentum Iterative Method）等对比算法。

关键词：攻击,防御,图像放缩,图像切割,像素值统一化

基金资助：国家自然科学基金资助项目(62272068);成都市重点研发支撑计划项目(2021-YF09-00114-GX)