《计算机工程杂志》发表论文赏析

结合五笔字形与上下文相关字向量的命名实体识别

来源:计算机工程杂志2021年第3期北京时间:

作者:张栋, 王铭涛, 陈文亮

单位:苏州大学 计算机科学与技术学院, 江苏 苏州 215006

摘要:命名实体识别(NER)作为自然语言处理的重要部分,在信息抽取和知识图谱等任务中得到广泛应用。然而目前中文预训练语言模型通常仅对上下文中的字符进行建模,忽略了中文字符的字形结构。提出2种结合五笔字形的上下文相关字向量表示方法,以增强字向量的语义表达能力。第一种方法分别对字符和字形抽取特征并联合建模得到字向量表示,第二种方法将五笔字形作为辅助信息拼接到字向量中,训练一个基于字符和五笔字形的混合语言模型。实验结果表明,所提两种方法可以有效提升中文NER系统的性能,且结合五笔字形的上下文相关字向量表示方法的系统性能优于基于单一字符的语言模型。

关键词:语言模型,命名实体识别,五笔字形,上下文相关字向量,无标注语料

基金资助:国家自然科学基金(61876115)。

填文献完整题目 获取完整文献

填写需求
联系方式
注:学术顾问会在1小时内联系您,请留意!