攻击分类器的对抗样本生成技术的现状分析

来源：计算机工程与应用杂志2020年第5期北京时间：

作者：叶启松，戴旭初

单位：中国科学技术大学 网络空间安全学院，合肥 230026

摘要：对抗样本生成技术是近年来深度学习应用于安全领域的一个热点，主要是研究对抗样本生成的机理、方法和实现方法，其目的是为了更好地理解和应对深度学习系统的脆弱性和安全性问题。重点关注深度神经网络分类器的对抗样本生成技术，介绍了对抗样本的概念，按“攻击条件”和“攻击目标”，将分类器的攻击分为四大类，分别是白盒条件下的定向攻击、白盒条件下的非定向攻击、黑盒条件下的定向攻击和黑盒条件下的非定向攻击。在此基础上，深入分析了每种攻击下典型的对抗样本生成技术，包括基本思想、方法和实现算法，并从适用场景、优点和缺点三个角度对它们进行了比较。通过对研究现状的分析，表明了对抗样本生成技术的多样性、规律性，以及不同生成技术的共性和差异性，为进一步研究和发展对抗样本生成技术，提高深度学习系统的安全性，提供有益的参考。

关键词：深度学习,安全,对抗样本,攻击,分类器,脆弱性