改进DDPG的端边DNN协同推理策略

来源：计算机工程与应用杂志2025年第2期北京时间：

作者：和涛, 栗娟

单位：1.武汉工程大学 计算机科学与工程学院，武汉 430205；2.智能机器人湖北省重点实验室（武汉工程大学），武汉 430205

摘要：当前基于端边的深度神经网络（deep neural network，DNN）协同推理策略仅关注于优化时延敏感型任务的推理时延，而未考虑能耗敏感型任务的推理能耗成本，以及DNN划分后在异构边缘服务器之间的高效卸载问题。基于此，提出一种改进深度确定性策略梯度（deep deterministic policy gradients，DDPG）的端边DNN协同推理策略，综合考虑任务对时延与能耗的敏感度，进而对推理成本进行综合优化。该策略将DNN划分与计算卸载问题分离，对不同协同设备建立预测模型，去预测出协同推理DNN的最优划分点与推理综合成本；根据预测的推理综合成本建立奖励函数，使用DDPG算法制定每个DNN推理任务的卸载策略，进而进行协同推理。实验结果证明，相比其他DNN协同推理策略，该策略在复杂的DNN协同推理环境下决策更高效，推理时延平均减少了46%，推理能耗平均减少了44%，推理综合成本平均降低了46%。

关键词：边缘智能,深度神经网络（DNN）,协同推理,深度确定性策略梯度,任务卸载,能耗优化