面向智能驾驶视觉感知的对抗样本攻击与防御方法综述

来源：南京信息工程大学学报·自然科学版杂志2019年第6期北京时间：

作者：杨弋鋆

单位：杨弋鋆,南京邮电大学 通信与信息工程学院, 南京, 210003,邵文泽,南京邮电大学 通信与信息工程学院, 南京, 210003,王力谦,南京邮电大学 通信与信息工程学院, 南京, 210003,葛琦,南京邮电大学 通信与信息工程学院, 南京, 210003,鲍秉坤,南京邮电大学 通信与信息工程学院, 南京, 210003,邓海松,南京审计大学 统计与数学学院, 南京, 211815,李海波,南京邮电大学 通信与信息工程学院, 南京, 210003;瑞典皇家理工学院 计算机科学与通信学院, 斯德哥尔摩, 10044

摘要：现如今，深度学习已然成为机器学习领域最热门的研究方向之一，其在图像识别、目标检测、语音处理、问答系统等诸多领域都取得了巨大成功.然而通过附加经过特殊设计的细微扰动而构造出的对抗样本，能够破坏深度模型的原有性能，其存在使许多对安全性能指标具有极高要求的技术领域，特别是以视觉感知为主要技术优先的智能驾驶系统，面临新的威胁和挑战.因此，对对抗样本的生成攻击和主动防御研究，成为深度学习和计算机视觉领域极为重要的交叉性研究课题.本文首先简述了对抗样本的相关概念，在此基础上详细介绍了一系列典型的对抗样本攻击和防御算法.随后，列举了针对视觉感知系统的多个物理世界攻击实例，探讨了其对智能驾驶领域的潜在影响.最后，对对抗样本的攻击与防御研究进行了技术展望.

关键词：对抗样本;目标检测;语义分割;智能驾驶

基金资助：国家自然科学基金（61771250，61602257，61972213，11901299，61872424，6193000388）