基于 FGSM 的对抗样本生成算法

来源：计算机技术与发展杂志2023年第03期北京时间：

作者：汤家军;王忠

摘要：近年来,深度学习算法在各个领域都取得了极大的成功,给人们的生活带来了极大便利。 然而深度神经网络由于其固有特性,用于分类任务时,存在不稳定性,很多因素都影响着分类的准确性,尤其是对抗样本的干扰,通过给图片加上肉眼不可见的扰动,影响分类器的准确性,给深度神经网络带来了极大的威胁。 通过对相关对抗样本的研究,该文提出一种基于白盒攻击的对抗样本生成算法 DCI-FGSM( Dynamic Change Iterative Fast Gradient Sign Method)。 通过动态更新梯度及噪声幅值,可以防止模型陷入局部最优,提高了生成对抗样本的效率,使得模型的准确性下降。 实验结果表明, 在MINIST 数据集分类的神经网络攻击上 DCI-FGSM 取得了显著的效果,与传统的对抗样本生成算法 FGSM 相比,将攻击成功率提高了 25% ,具有更高的攻击效率。

关键词：深度学习;不稳定性;白盒攻击;对抗样本;对抗攻击