基于多路径回溯的神经网络验证方法

来源：软件学报杂志2022年第7期北京时间：

作者：郑烨，施晓牧，刘嘉祥

单位：郑烨，深圳大学计算机与软件学院, 广东 深圳 51806011,施晓牧，深圳大学计算机与软件学院, 广东 深圳 51806002,刘嘉祥，深圳大学计算机与软件学院, 广东 深圳 51806003

摘要：基于线性抽象的符号传播方法在神经网络验证中具有重要地位.针对这类方法,提出了多路径回溯的概念.现有方法可看作仅使用单条回溯路径计算每个神经网络节点的上下界,是这一概念的特例.使用多条回溯路径,可以有效地改善这类方法的精度.在数据集ACAS Xu,MNIST和CIFAR10上,将多路径回溯方法与使用单条回溯路径的DeepPoly进行定量比较,结果表明,多路径回溯方法能够获得明显的精度提升,而仅引入较小的额外时间代价.此外,在数据集MNIST上,将多路径回溯方法与使用全局优化的Optimized LiRPA比较,结果表明,该方法仍然具有精度优势.

关键词：神经网络验证;符号传播;抽象解释;多路径回溯

基金资助：深圳市高等院校稳定支持计划(20200810045225001);国家自然科学基金(62002228);深圳市科创委基础研究项目(JCYJ20210324094202008)