典型文献
基于滑动窗口注意力网络的关系分类模型
文献摘要：
实体关系抽取是构建知识图谱过程中至关重要的一步.将注意力机制引入卷积神经网络或循环神经网络是目前关系抽取任务中比较主流的解决方法,谷歌最新提出的BERT模型在多项自然语言处理任务中都取得了非常好的效果.为了充分融合局部信息和全局信息,并提高处理效率,该文提出了滑动窗口注意力网络模型(Sliding Window Attention Network,SWAN).该模型首先通过预训练的word2vec生成词向量,加入位置表示并使用TransE模型对实体进行表征以充分突出实体信息,再采用基于BERT的SBERT模型对句子进行表征,在此基础上采用多种滑动窗口注意力机制捕获局部信息,然后在聚集层对抽取到的局部信息进行聚合,最后利用softmax函数来实现实体关系的分类.实验结果表明,提出的SWAN模型在SemEval2010 Task 8数据集上取得了较高的准确率,优于对比的现有关系抽取模型,同时模型训练效率也得到极大提升.
文献关键词：
实体关系抽取;滑动窗口;SBERT;注意力机制;局部信息;全局信息
中图分类号：
作者姓名：
潘理虎;陈亭亭;闫慧敏;赵彭彭;张睿;张英俊
作者机构：
太原科技大学 计算机科学与技术学院,山西 太原 030024;中国科学院 地理科学与资源研究所,北京 100101
文献出处：
引用格式：
[1]潘理虎;陈亭亭;闫慧敏;赵彭彭;张睿;张英俊-.基于滑动窗口注意力网络的关系分类模型)[J].计算机技术与发展,2022(06):21-27,33
A类：
SemEval2010
B类：
滑动窗口,注意力网络,关系分类,分类模型,实体关系抽取,注意力机制,循环神经网络,中比,自然语言处理,充分融合,局部信息,全局信息,高处,处理效率,Sliding,Window,Attention,Network,SWAN,预训练,word2vec,成词,词向量,加入位置,TransE,实体信息,SBERT,对句,句子,取到,softmax,Task,取模,模型训练,训练效率
AB值：
0.39454
相似文献
机标中图分类号，由域田数据科技根据网络公开资料自动分析生成，仅供学习研究参考。
