边-端协作下基于早期退出机制的深度神经网络动态自适应分区

来源：电子与信息学报杂志2025年第10期北京时间：

作者：丁男, 王佳佳, 冀承慧, 胡创业, 许力

单位：1.新疆师范大学计算机科学技术学院 乌鲁木齐 8300542.大连理工大学工业装备智能控制与优化教育部重点实验室 大连 1160813.字节跳动 北京 100101

摘要：在工业智能化场景中，深度神经网络(DNN)的推理任务因有向无环图(DAG)复杂结构特性与动态资源约束，面临延迟与精度难以协同优化的挑战。现有方法多局限于链式DNN，且缺乏对网络波动与异构计算资源的自适应支持。为此，该文提出一种边-端协作下基于早期退出机制的DNN动态自适应分区框架(DAPDEE)，通过边-端协作实现高精度低延迟推理。其核心创新如下：将链式与复杂DNN统一表征为DAG结构，为分区优化提供通用拓扑基础；基于多任务学习离线优化各层早期退出分类器，部署时仅需加载预训练模型参数，结合实时网络带宽、终端计算负载等指标，动态选择最优退出点与分区策略；通过逆向搜索机制联合优化延迟与精度，轻负载下最小化单帧端到端延迟，重负载下最大化系统吞吐量。实验表明，在CIFAR-10数据集与VGG16和AlexNet模型上，DAPDEE在CAT1/3G/4G网络中较Device-Only方法降低延迟达7.7%(重负载)与7.5%(轻负载)，吞吐量提升9.9倍，且精度损失始终低于1.2%。该框架为智能制造、自动驾驶等时敏场景中DAG结构DNN的高效推理提供了理论与技术支撑。

关键词：边缘计算, 深度神经网络分区, 边-端协作, 早期退出机制, 边缘推理加速

基金资助：国家自然科学基金(62262066, 62473071)，国家重点研发计划(2022YFB4500800)