基于GloVe模型和注意力机制Bi-LSTM的文本分类方法

来源：电子测量技术杂志2022年第7期北京时间：

作者：周燕

单位：华南农业大学， 数学与信息学院， 广州， 510642

摘要：为了提高文本分类的准确性，扩展分类任务的多样性，提出一种结合一维卷积神经网络（1D-CNN）和双向长短期记忆网络（Bi-LSTM）的文本分类方法。首先，为了解决近义词、多义词的表征困难，采用GloVe模型表示词特征，充分利用全局信息和共现窗口的优势。然后，利用1D-CNN进行特征提取，以降低分类器或预测模型的输入特征维数。最后，对分类模块Bi-LSTM进行优化，其隐藏层由两个残差块组成，并引入注意力机制进一步改善预测的准确度。在多个公开数据集中进行二元分类和多元主题分类实验。实验结果表明，与其他优秀方法相比，所提方法在准确率、召回率和F1得分方面的性能更优，最高准确度达92.5%，最高F1得分为91.3%。

关键词：文本分类;GloVe模型;一维卷积神经网络;双向长短期记忆网络;注意力

基金资助：2019年广东省研究生教育创新计划项目(2019JGXM18)