典型文献
基于Transformer和双重注意力融合的分层交互答案选择模型
文献摘要：
答案选择是问答系统中的关键组成部分,提升其准确性是问答系统研究的重要内容之一.近年来深度学习技术广泛应用于答案选择,获得了良好效果,但仍旧有一定的局限性.其中模型对问题语义信息利用度低、缺乏局部语义重视、句子间交互感知能力差等问题尤为突出.针对上述问题提出了一种基于Transformer和双重注意力融合的答案选择模型 NHITAS(new hierarchical interactive Transformer for answer selection).首先,在信息预处理部分提取问题类别和关键词对答案进行初步筛选,并引入外部知识作为句子额外语义补充;其次,采用分层交互的Transformer对句子进行语义上下文建模,提出了 UP-Transformer(untied position-Transformer)和DA-Transformer(decay self-attention-Transformer)两种结构学习语义特征;最后,通过双重 注意力融合过滤句子噪声,增强问题和答案之间的语义交互.在WikiQA和TrecQA数据集上对NHITAS的性能进行测试,实验结果表明所提模型对比其他模型,能够有效提升答案选择任务的效果.
文献关键词：
答案选择;Transformer;双重注意力机制;问答系统;深度学习
中图分类号：
作者姓名：
郑巧月;段友祥;孙岐峰
作者机构：
中国石油大学(华东)计算机科学与技术学院,山东青岛266580
文献出处：
引用格式：
[1]郑巧月;段友祥;孙岐峰-.基于Transformer和双重注意力融合的分层交互答案选择模型)[J].计算机应用研究,2022(11):3320-3326
A类：
NHITAS,untied,WikiQA,TrecQA
B类：
Transformer,双重注意力融合,互答,答案选择模型,问答系统,深度学习技术,良好效果,仍旧,旧有,语义信息,信息利用,用度,句子,交互感知,感知能力,new,hierarchical,interactive,answer,selection,分提,题类,对答,初步筛选,外部知识,外语,语义补充,对句,语义上,上下文,UP,position,DA,decay,self,attention,结构学习,习语,语义特征,语义交互,模型对比,双重注意力机制
AB值：
0.377165
机标中图分类号，由域田数据科技根据网络公开资料自动分析生成，仅供学习研究参考。
