《计算机工程与科学杂志》发表论文赏析

深度神经网络模型后门植入与检测技术研究综述

来源:计算机工程与科学杂志2022年第11期北京时间:

作者:马铭苑, 李虎, 王梓斌, 况晓辉

单位:(军事科学院系统工程研究院信息系统安全技术重点实验室,北京 100101)

摘要:作为当前人工智能快速发展的代表性技术之一,深度神经网络的应用范围越来越广,由此带来的安全性问题也逐渐受到关注。现有研究主要聚焦于如何高效构造多样化的对抗样本,以实现对深度神经网络模型的欺骗,以及如何检测对抗样本并加固深度神经网络模型。但是,随着深度神经网络模型的开发越来越依赖开源数据集、预训练模型和计算框架等第三方资源,模型被植入后门的风险越来越高。从深度神经网络模型生命周期的各个环节出发,对深度神经网络模型后门植入与检测相关技术进行了归纳总结,对比分析了不同技术的主要特征与适用场景,对相关技术未来的发展方向进行了展望。

关键词:深度神经网络,后门植入,后门检测,人工智能,

2022年11期其他文献查阅:

面向众核系统的层次化栅栏同步机制

面向FT-M7002平台点积算法的优化实现

基于行为监测的嵌入式操作系统堆栈溢出测试

基于光量子芯片的量子自旋链中完美态转移可编程量子模拟

一种改进的基于深度神经网络的偏微分方程求解方法

面向移动终端的密文可验证属性基可搜索加密方案

考虑任务依赖的卫星边缘计算资源分配与卸载决策算法

深度神经网络模型后门植入与检测技术研究综述

萤火虫算法优化支持向量机室内定位研究

Tsai氏相机平面标定算法的一种解析改进

基于文本特征及二次矫正的指针式仪表自动读数算法

基于无锚框目标检测算法的多样性感受野注意力特征补偿

基于改进Mask R-CNN的生活垃圾检测

基于注意力机制的自适应滤波遥感图像分割网络

基于端到端双网络的低照度图像增强方法

带有协方差矩阵的卷积神经网络在人体运动识别中的应用

联合注意力和Transformer的视网膜血管分割网络

基于Gist和IPCA算法的多文种离线手写签名识别

基于线性注意力机制的单样本生成对抗网络研究

一种基于SARIMA-LSTM模型的电网主机负载预测方法

基于词共现的方面级情感分析模型

基于改进人工鱼群算法与RBF神经网络的股票价格预测

填文献完整题目 获取完整文献

填写需求
联系方式
注:学术顾问会在1小时内联系您,请留意!