时频域多尺度交叉注意力融合的时间序列分类方法

来源：计算机应用杂志2024年第6期北京时间：

作者：王美, 苏雪松, 刘佳, 殷若南, 黄珊

单位：1.中国石油化工股份有限公司 胜利油田技术检测中心, 山东 东营 257000；2.中国石油大学(华东) 计算机科学与技术学院, 山东 青岛 266000；3.中国石油大学(华东) 储运与建筑工程学院, 山东 青岛 266000

摘要：针对时间序列子序列间的潜在信息交互不足导致分类准确率低的问题，提出时频域多尺度交叉注意力融合的时间序列分类方法TFFormer（Time-Frequency Transformer）。首先，将原始时间序列的时频域谱分别划分为等长子序列，经线性投影后加入位置信息解决时间序列的点值耦合问题；其次，通过改进的多头自注意力（IMHA）模块使模型关注更重要的序列特征，解决长时间序列的前后依赖问题；最后，构造多尺度时频域交叉注意力（CMA）模块增强时间序列在时域和频域之间的信息交互，使模型进一步挖掘序列的频域信息。实验结果表明，在Trace、StarLightCurves和UWaveGestureLibraryAll数据集上，相较于全卷积网络（FCN），所提方法的分类准确率分别提高了0.3、0.9和1.4个百分点，验证了通过增强时间序列时域和频域间的信息交互，可以提高模型收敛速度和分类精度。

关键词：时间序列,注意力机制,位置编码,深度神经网络,多尺度融合

基金资助：中国石化股份公司科研项目(323016);胜利油田分公司科研项目(YG2208)