融合多粒度信息的文本分类研究

来源：计算机工程与应用杂志2023年第9期北京时间：

作者：辛苗苗, 马丽, 胡博发

单位：1.河北地质大学 信息工程学院，石家庄 050031；2.河北地质大学 人工智能与机器学习研究室，石家庄 050031

摘要：目前对中文文本分类的研究主要集中于对字符粒度、词语粒度、句子粒度、篇章粒度等数据信息的单一模式划分，这往往缺少不同粒度下语义所包含的信息特征。为了更加有效提取文本所要表达的核心内容，提出一种基于注意力机制融合多粒度信息的文本分类模型。该模型对字、词和句子粒度方面构造嵌入向量，其中对字和词粒度采用Word2Vec训练模型将数据转换为字向量和词向量，通过双向长短期记忆网络（bi-directional long short-term memory，BiLSTM）获取字和词粒度向量的上下文语义特征，利用FastText模型提取句子向量中包含的特征，将不同种特征向量分别送入到注意力机制层进一步获取文本重要的语义信息。实验结果表明，该模型在三种公开的中文数据集上的分类准确率比单一粒度和两两粒度结合的分类准确率都有所提高。

关键词：多粒度,信息融合,文本分类,注意力机制