采用标签组合与融合注意力的多标签文本分类

来源：计算机工程与应用杂志2023年第6期北京时间：

作者：邬鑫珂, 孙俊, 李志华

单位：江南大学 人工智能与计算机学院，江苏 无锡 214122

摘要：传统的多标签文本分类算法在挖掘标签的关联信息和提取文本与标签之间的判别信息过程中存在不足，由此提出一种基于标签组合的预训练模型与多粒度融合注意力的多标签文本分类算法。通过标签组合的预训练模型训练得到具有标签关联性的文本编码器，使用门控融合策略融合预训练语言模型和词向量得到词嵌入表示，送入预训练编码器中生成基于标签语义的文本表征。通过自注意力和多层空洞卷积增强的标签注意力分别得到全局信息和细粒度语义信息，自适应融合后输入到多层感知机进行多标签预测。在特定威胁识别数据集和两个通用多标签文本分类数据集上的实验结果表明，提出的方法在能够有效捕捉标签与文本之间的关联信息，并在F1值、汉明损失和召回率上均取得了明显提升。

关键词：多标签文本分类,融合注意力机制,空洞卷积