一种基于改进 ELMO 模型的组织机构名识别方法

来源：计算机技术与发展杂志2020年第11期北京时间：

作者：胡万亭;郭建英;张继永

摘要：组织机构名识别是命名实体识别的核心任务之一,也是最困难的任务。 近年来,预训练模型在中文自然语言处理领域得到广泛应用, 预训练的词嵌入模型在中文命名实体识别上取得了非常好的效果,但是在组织机构名识别上还有很大的提升空间。 针对这一问题,改进 ELMO(embedding from language models)预训练模型,结合双向 LSTM 神经网络模型和条件随机场模型,去识别组织机构名。 对于 ELMO 的改进,主要通过筛选高频机构词,然后将高频机构词加入中文字典,通过 ELMO 模型训练生成机构词向量和普通字向量。 字向量不用考虑未登录词的问题,机构词向量引入了先验知识,结合起来可以使得生成的字词向量能够更好地表征组织机构名。 实验结果表明,预训练模型的数据集相对较小时,该方法比字向量嵌入的方法有更好的效果,F1 值提高了 1.3% 。

关键词：ELMO 模型;LSTM 模型;机构词;条件随机场;组织机构名识别