针对图像识别的一种分步对抗防御方法研究

来源：计算机工程与科学杂志2023年第6期北京时间：

作者：徐茹枝, 王硕, 龙燕, 宗启灼

单位：随着深度学习技术的不断发展，其在图像识别领域的应用也取得了巨大突破，但对抗样本的存在严重威胁了模型自身的安全性。因此，研究有效的对抗防御方法，提高模型的鲁棒性，具有深刻的现实意义。为此，基于快速生成对抗样本和保持样本预测结果相似性之间的博弈，提出了一种分步防御方法。首先，对通用样本进行随机数据增强，以提高样本多样性；然后，生成差异性对抗样本和相似性对抗样本，增加对抗训练中对抗样本的种类，提高对抗样本的质量；最后，重新定义损失函数用于对抗训练。实验结果表明，在面对多种对抗样本的攻击时，分步防御方法表现出了更优的迁移性和鲁棒性。

摘要：图像增强； 对抗训练； 分步防御； 深度学习

关键词：

基金资助：国家自然科学基金（61972148）