基于神经网络热图的对抗样本检测方法
来源：计算机应用与软件杂志2024年第12期北京时间：
作者：王德成, 闫龙川, 郭永和, 赵子岩, 朱 京, 陈晓惠, 崔磊, 李勇男
摘要：针对深度神经网络面临对抗攻击威胁的问题，提出一种基于“热图”的对抗样本检测方法。引入“热图”的概念表示处理样本时神经网络的神经活动，将原始样本转换为活动启发式热图；分别将良性样本和对抗样本生成热图，进而训练二元分类器来识别对抗样本。实验结果表明，该方法在面临针对MNIST和CIFAR-10数据集上的先进对抗攻击方法时，检测精度分别高达99.4％和93.9％。
关键词：深度神经网络, 热图, 对抗样本, 对抗样本检测 机器学习安全
