主题特征与领域预训练模型融合的农业问句分类方法

来源：农业机械学报杂志2025年第10期北京时间：

作者：熊蜀峰，沈佳龙，许恒瑞，王丙坤

单位：河南农业大学,河南农业大学,河南农业大学,郑州财经学院,

摘要：问句分类的准确性对问答系统至关重要，尤其农业领域具有多样化的问句类别和复杂的语义内容情况下，有效分类用户提出的问句是开发智能农业问答系统的关键任务。针对如何在农业领域中对用户提出的问句进行有效分类的问题，本文提出了一种结合领域BERT（Bidirectional encoder representational from transformers）预训练与主题模型的农业问句分类方法TAB（Topic model with agriculture BERT for agricultural text classification），以提高分类性能。为了应对农业领域数据的专业性和复杂性，开发了专用的预训练语言模型AgCBERT（Agriculture BERT），用于文本特征向量表示。此外，采用LDA（Latent dirichlet allocation）模型表示主题特征向量，作为文本向量的补充。TAB方法最后将上述2类特征进行线性组合后输入全连接网络进行分类预测。在真实农业问句数据集上的实验结果显示，本文方法的F1值达到了72.72%，显著优于常见的文本分类模型。结果表明，融合AgCBERT与主题概率模型的TAB方法在农业问句分类中表现卓越。

关键词：农业领域;问句分类;预训练语言模型;主题模型;BERT

基金资助：教育部人文社科项目(19YJCZH198)