Revformer：结合正则化的逐特征长期时序预测模型

来源：计算机工程与应用杂志2026年第10期北京时间：

作者：刘聪, 曹霑懋, 李俊斌, 白书铭

单位：华南师范大学 计算机学院，广州 510631；

摘要：针对Transformer架构在长期时间序列预测任务中存在的训练不稳定性问题，提出具有双重稳定机制的Revformer（reversible transformer）模型。已有方法大多以调整训练策略来缓解过拟合现象，但忽视了架构设计缺陷导致的特征维度信息衰减与全局时序模式捕捉失效这一根本矛盾。通过优化跨特征交互的计算结构，创新性地构建了特征导向的注意力机制。该方法有效降低长序列建模的计算复杂度，并提升模型对全局关键特征依赖结构的感知能力。进一步，提出了一种基于通道重要性评估的可逆正则化方法，在时域空间中实现特征选择性丢弃，有效抑制过拟合并保持信息完整性。模型在8个来自真实世界的数据集上进行了实验，实验结果表明，Revformer模型不仅有效缓解了训练过程中的不稳定性，还显著提高了长期时间序列数据的预测精度。

关键词：长期时间序列预测,训练不稳定性,可逆正则化