《计算机应用与软件杂志》发表论文赏析
作者:王琪, 倪建成
摘要:常识问答旨在让机器模拟人类思考方式预测出正确答案,但因问题表述中不包含背景常识,从而对传统机器学习方法提出了巨大挑战。针对多背景知识融合问题,使用随机游走的方式获取常识知识图谱ConceptNet中答案实体的两跳相关实体,与给定问答文本融合,增强后的问题输入到预训练模型RoBERTa中,利用上下文感知注意力,强化了问题与答案之间的语义表示。实验结果表明,有效地引入外部知识后,CAARK 模型在CommonsenseQA数据集上有较好的表现,为解决常识问答问题提供了一种新范式。
关键词:自然语言处理, 常识问答, 知识图谱, 注意力机制