面向交通流量预测的时空前缀微调大语言模型框架
来源：计算机工程与应用杂志2026年第11期北京时间：
作者：崔鸿飞, 周强, 顾晶晶, 刘钰婷, 史国梁, 童旭东
单位：南京航空航天大学 计算机科学与技术学院，南京 211100；
摘要：交通流量预测是智能交通系统建设的关键，也是建设智慧城市的重要一环。随着预训练大语言模型(large language model，LLM)的发展，采用预训练LLM微调方法已成为交通流量预测中复杂时空依赖建模的全新范式。然而，现有的注意力冻结微调方法在将以自然语言数据预训练的LLM用于交通流量数据上存在局限，难以有效建模交通节点间的多维空间交互关系。如何在保留预训练知识的情况下进行合理的时空数据表征，将LLM对自然语言的处理能力对齐到多维时空数据上，是将LLM应用于交通流量预测的核心问题。为此，提出了面向交通流量预测的时空前缀微调大语言模型框架(spatiotemporal prefix tuning large language model，STPLM)，利用空间前缀微调模块与模式嵌入方法，增强LLM建模多维动态时空信息的能力。其中，空间前缀微调模块将直接特征前缀与间接特征前缀融合，在保留预训练LLM中知识抽取能力的前提下将预训练LLM中的自然语言信息与时空信息对齐，并为LLM注入了动态空间信息作为先验知识，增强了LLM预测的精准度。模式嵌入方法通过索引式的嵌入进一步增强了LLM处理多维空间数据的能力。在真实的数据集上进行了广泛的实验，结果表明STPLM在预测精度上优于现有基线算法，并通过充分的消融实验以及对关键参数的讨论，证明了STPLM关键模块的有效性。
关键词：交通流量预测,大语言模型,前缀微调,虚拟前缀,模式嵌入
基金资助：国家自然科学基金面上项目（62072235）；江苏省自然科学基金青年项目（BK20241402）。
