基于聚焦损失与残差网络的远程监督关系抽取

来源：计算机工程杂志2019年第12期北京时间：

作者：蔡强, 李晶, 郝佳云

单位：北京工商大学 a. 计算机与信息工程学院;b. 食品安全大数据技术北京市重点实验室, 北京 100048

摘要：基于卷积神经网络的远程监督关系抽取方法提取的特征单一，且标准交叉熵损失函数未能较好处理数据集中正负样本比例不均衡的情况。为此，提出一种基于深度残差神经网络的远程监督关系抽取模型，通过改进交叉熵聚焦损失函数，提取句子中的深层语义特征，同时降低损失函数中负样本的权重，避免在NYT-Freebase标准数据集中引入NA关系类别的噪音。实验结果表明，该模型能增强深度残差神经网络对含噪音数据的表示学习能力，有效提高远程监督关系抽取任务的分类准确率。

关键词：交叉熵损失函数,残差学习,远程监督模型,关系抽取,卷积神经网络

基金资助：北京市自然科学基金（4162019）；北京市科技计划项目（Z161100 001616004）；北京市教委科研计划项目（SQKM201610011010）。