《计算机工程与科学杂志》发表论文赏析

基于深度学习的实体关系抽取方法研究

来源:计算机工程与科学杂志2023年第5期北京时间:

作者:排日旦·阿布都热依木, 吐尔地·托合提, 艾斯卡尔·艾木都拉,

单位:(1.新疆大学信息科学与工程学院,新疆 乌鲁木齐 830017;2.新疆信号检测与处理重点实验室,新疆 乌鲁木齐 830017)

摘要:常用的神经网络,如卷积神经网络(CNN)和循环神经网络(RNN),在关系抽取任务中都表现出了很不错的效果。然而,卷积神经网络擅长捕获局部特征,但不太适合处理序列特征;传统的循环神经网络虽然可以有效提取长距离词之间的特征,但容易出现梯度消失或梯度爆炸问题。针对这些问题,提出了一种结合BiLSTM-CNN-Attention的混合神经网络模型。BiLSTM和CNN的结合使它们优劣互补,而Attention的引入能够突出实体间关系词在整个句子中的重要性。并且,在词嵌入层使用拼接词向量,克服了词向量单一表示的问题。实验结果表明,相比word2vec词向量,拼接词向量能够获取语义更丰富的词向量,使词向量的健壮性更强。与BiLSTM-CNN、CNN-Attention和BiLSTM-Attention模型相比,BiLSTM-CNN-Attention混合模型的准确率和F1值都有所提升。

关键词:关系抽取,卷积神经网络,循环神经网络,注意力机制,混合模型,拼接词向量,

基金资助:国家自然科学基金(62166042,U2003207);国防科技基金加强计划(2021-JCJQ-JJ-0059);新疆维吾尔自治区自然科学基金(2021D01C076)

2023年5期其他文献查阅:

面向E级计算的高性能处理器核心运算架构研究进展

自治故障管理系统推理规则的智能学习技术

基于监督学习的稀疏矩阵自动任务分配

基于可再生能源消纳的数据中心负荷调度研究综述

基于脉动阵列的层融合注意力模型加速器结构

基于时间自动机的AADL端到端流规约验证方法

套索边界条件:一种可指导目标冲突修复的分歧描述

基于优化随机森林的软件缺陷预测算法研究

一种无人巡航船遍历多目标点的路径规划算法研究

融合局部动态特征的面部表情识别

一种求解CVRP的动态图转换模型

基于改进Faster R-CNN的小目标检测算法

密集交通场景中改进YOLOv3目标检测优化算法

基于多尺度多模态学习的光球亮点曲线轨迹段检测方法研究

基于深度学习的实体关系抽取方法研究

融合RoBERTa的多尺度语义协同专利文本分类模型

基于双通道门控复合网络的中文产品评论情感分析

基于差分进化策略的天牛须搜索算法及其应用

Conv-WGAIN:面向多元时序数据缺失的卷积生成对抗插补网络模型

基于教与学和逐维柯西变异的鲸鱼优化算法

填文献完整题目 获取完整文献

填写需求
联系方式
注:学术顾问会在1小时内联系您,请留意!