面向深度学习模型的对抗攻击与防御方法综述
来源：计算机工程杂志2021年第1期北京时间：
作者：姜妍, 张立国
单位：哈尔滨工程大学 计算机科学与技术学院, 哈尔滨 150001
摘要：深度学习作为人工智能技术的重要组成部分，被广泛应用于计算机视觉和自然语言处理等领域。尽管深度学习在图像分类和目标检测等任务中取得了较好性能，但是对抗攻击的存在对深度学习模型的安全应用构成了潜在威胁，进而影响了模型的安全性。在简述对抗样本的概念及其产生原因的基础上，分析对抗攻击的主要攻击方式及目标，研究具有代表性的经典对抗样本生成方法。描述对抗样本的检测与防御方法，并阐述对抗样本在不同领域的应用实例。通过对对抗样本攻击与防御方法的分析与总结，展望对抗攻击与防御领域未来的研究方向。
关键词：人工智能,深度学习,对抗攻击,安全防御,对抗样本
基金资助：中央高校基本科研业务费专项资金（3072020CF0604，3072020CFQ0602）。
