《信号处理杂志》发表论文赏析
作者:赵晨, 张铖, 黄永明
摘要:为保障业务服务等级协议(Service Level Agreements, SLA)需求,使不同应用间差异化的服务质量需求同时得到良好满足,无线接入网(Radio Access Network, RAN)的动态网络资源配置十分关键。本文针对网络流量波动、网络状态快速变化的场景,提出一种结合时间序列预测和深度强化学习的智能化带宽分配策略,通过合理利用长短期记忆(Long Short-Term Memory, LSTM)网络和Dueling深度Q网络(Dueling Deep Q Network, Dueling DQN)以最大限度提高无线接入网切片的频谱效率和SLA满意度。通过使用LSTM网络对切片中数据流量进行预测,可以将深度强化学习算法的计算周期与实际切片配置周期有效解耦。同时为了在保障LSTM性能的同时降低其计算复杂度,以适应RAN中有限的计算资源,本文采用控制神经元连接比例的随机连接长短期记忆(Randomly Connected LSTM, RCLSTM)网络。此外,Dueling DQN与传统DQN相比,能够提高切片策略学习过程的Q值估计精度,以提升收敛速度。仿真结果表明:与原始DQN、优势Actor-Critic(Advantage Actor Critic, A2C)和硬切片方法相比,所提RCLSTM-Dueling DQN方案可以通过提前感知网络性能变化,有效降低网络环境波动对密集流量场景下无线切片资源管理的影响,在具有三种不同流量波动模式及服务质量需求的RAN切片场景中,可以获得收敛速度、频谱效率和切片SLA满意率的明显提升。同时,10%连接比例的RCLSTM网络能在保持极低性能损失的前提下,将原始LSTM的计算时间降低约11%。
关键词::无线接入网络切片, 动态资源分配, 时间序列预测, 深度强化学习