基于LLMs的危化品典型事故文本分类研究

来源：计算机技术与发展杂志2025年第07期北京时间：

作者：张又元;马新春;赵军

单位：1. 新疆大学 软件学院,新疆 乌鲁木齐 830046;2. 新疆电子研究所股份有限公司,新疆 乌鲁木齐 830013;3. 新疆维吾尔自治区安全科学技术研究院,新疆 乌鲁木齐 830000

摘要：为了实现对危化品事故案例的有效管理,首先需要对事故案例文本进行精确分类。 尽管当前的大语言模型(LLMs)在经过简单微调后能够在特定领域的中长文本分类任务中表现良好,但却忽视了生成式大语言模型强大的推理能力对于此类任务的重要促进作用。 生成式大语言模型不仅具有生成分类结果的能力,还具有生成推理过程的能力。 基于此,该文提出了一种基于推理模式的大语言文本分类模型,具体构建流程如下:首先,利用大型 LLMs“通义千问 2. 5”的推理能力,模拟生成连接案例文本和真实标签的中间推理过程;然后,将生成的推理过程编码为结构化的提示信息,并嵌入到用于分类任务的提示模板中;最后,在低资源条件下,选择小型 LLMs“Qwen1. 5-4B”作为该文采用的文本分类器,利用“通义千问 2. 5”LLMs 构建的提示模板进行微调。 实验证明,该方法在危化品事故案例的小样本数据集中表现优异,其F1 值达到了 90. 22% 。 此外,在公开新闻数据集上验证了该方法的泛化性能,其 F1 值也达到了 88. 04% 。

关键词：危化品事故;大语言模型;中长文本;中间推理过程;提示模板;微调