面向大语言模型的抗干扰协同推断技术

来源：电子与信息学报杂志2025年第11期北京时间：

作者：林志平, 肖亮, 陈宏毅, 徐小宇, 李杰铃

单位：厦门大学信息学院 厦门 361102

摘要：大语言模型协同推断技术利用边缘服务器的算力增强推断性能，但在干扰攻击下由于数据卸载的时延和丢包大幅增加，导致推断任务完成率和速度等性能下降。为此，该文提出面向大语言模型的抗干扰协同推断方案，采用强化学习根据推断任务类型、多模态数据量大小、设备间信道增益和干扰强度等信息优化选择边缘服务器、大语言模型的稀疏率和量化精度、数据卸载的发射功率和传输信道。基于逐层无结构剪枝算法和参数量化技术部署不同稀疏率和量化精度的大语言模型，处理图片、文本、视频和温湿度等多模态数据的词元向量，以满足多样化任务的推断精度和速度需求。根据数据卸载的时延和丢包率评估推断性能下降的风险等级，避免选择可能使任务失败的抗干扰协同推断策略。最后，搭建移动无人车抗干扰协同推断系统，部署大语言模型LLaVA-1.5-7B以图片和文本数据为输入，支撑移动终端的人机问答和决策辅助等推断任务。实验结果表明，该方案可提升智能干扰攻击下的推断任务完成率、精度和速度。

关键词：大语言模型, 多模态数据, 协同推断, 强化学习, 抗干扰

基金资助：国家自然科学基金(U21A20444)，国家重点研发计划(2023YFB3107603)