《计算机技术与发展杂志》发表论文赏析
作者:薛赟琨;王亮;朱欣娟
单位:1. 西安工程大学 计算机科学学院,陕西 西安 710600;2. 秦始皇帝陵博物院,陕西 西安 710699
摘要:为解决传统分类方法需要大量的标签数据,且在样本量不足的情况下模型容易过拟合的问题,提出了一种基于提示学习的小样本文旅客服问题分类方法。 首先,收集整理了文旅客服领域数据,对问题类别进行了层次分类,构建了文旅客服问题数据集,并对其进行数据类别标注;其次,基于提示学习的方法,设计了八类不同的提示模板,分别在 Bert、RoBerta 等预训练语言模型上进行对比实验,选择了效果较优的提示模板和预训练语言模型,并对文本分类模型进行领域微调;最后,设计了基于提示学习的层次分类算法,将算法和微调后的分类模型应用于某博物馆文旅客服问答系统。 实验结果表明,在小样本数据条件下,文旅客服问题分类的准确度和 F1 值达到 92. 03% 和 96. 43% ,相较于 BERT 文本分类基线模型,准确度和 F1 值分别提升了 5. 77 百分点和 5. 78 百分点。
关键词:提示学习;问题分类;小样本;层次结构;文旅客服问答