基于共享语义空间的多标签文本分类

来源：计算机工程与应用杂志2023年第12期北京时间：

作者：孙坤, 秦博文, 桑基韬, 于剑

单位：北京交通大学 计算机与信息技术学院，北京 100044

摘要：在多标签文本分类任务中，每个给定的文档都对应一组相关标签。目前主要面临以下三方面问题：（1）对标签-文本和标签-标签关系的联合建模不充分；（2）对标签本身语义的挖掘不足；（3）忽略了对标签内部结构信息的利用。对于以上问题，提出了一种基于联合注意力和共享语义空间的多标签文本分类方法。提出了融合多头注意力机制，该方法旨在同步地对标签与文档的关系和标签之间的关系进行建模，利用两者交互信息的同时避免误差传递。提出了解耦的共享语义空间嵌入方法，改进了利用标签语义信息的方法，使用共享参数的编码器提取标签和文档的语义表示，减少其在建模相关性阶段的偏差。提出了一种基于先验知识的层次提示方法，利用预训练模型中的先验知识增强标签层次结构信息。实验结果表明，该方法在公开数据集上优于目前最先进的多标签文本分类模型。

关键词：多标签文本分类,注意力机制,标签表示,预训练模型,语义嵌入