《计算机工程与应用杂志》发表论文赏析
作者:古津榜, 洪征, 秦素娟, 赵敏, 陈乾, 江川
单位:中国人民解放军陆军工程大学 指挥控制工程学院,南京 210000;
摘要:针对现有触发器逆向方法难以检测出复杂后门攻击的问题,提出一种基于变分自编码器(VAE)触发器逆向的后门检测方法。使用变分自编码器作为空间变换函数,变分自编码器可以泛化出不同形式的触发器,干净样本经过变分自编码器处理后,被嵌入触发器得到逆向样本。后门攻击具有隐蔽的特点,能够实施后门攻击的逆向样本往往需要与干净样本保持结构相似性,基于此特点选择满足隐蔽性要求的逆向样本。后门往往需要学习触发器特征,与指定的类别建立强联系。采用余弦相似性衡量逆向样本与干净样本的特征值之间的关系,来确定可能存在后门的逆向样本。在此基础上,应用L1范式约束优化触发器,使触发器在保持有效性的同时最小化L1范数以减小触发器对干净样本造成的影响,进而依据逆向样本与特定类别的强联系进行后门检测。实验结果表明,该方法可以有效识别不同特征空间中的复杂后门攻击。
关键词:神经网络安全,后门攻击,触发器逆向,触发器,后门攻击检测
基金资助:国家重点研发计划(2019YFB2101704)。