首站-论文投稿智能助手
典型文献
BiLSTM与多头注意力机制结合的生成式中文自动文摘
文献摘要:
针对传统生成式模型在处理文本时出现梯度消失、爆炸及捕捉到文章前后语义信息不充分的问题,文章提出一种生成式自动文摘网络模型BiLSTM_MulAtten(BiLSTM and Multi-head Attention).编码器端使用堆叠BiL-STM将文本编码成语义向量,并且使用多头注意力机制以降低序列信息损失;解码器端使用堆叠LSTM,并利用集束搜索方法对语义向量进行解码.实验结果表明,本文方法能够有效提升生成摘要质量,在语义获取方面有着更好的效果,在LCSTS测试集上比目前文摘效果最好的DRGD方法ROUGE分数提升了0.5%至5.8%.
文献关键词:
BiLSTM;多头注意力机制;生成式自动文摘;Seq2seq;语义依赖
作者姓名:
王茂发;章赫;黄鸿亮;单维锋;龚启舟;冷志雄
作者机构:
桂林电子科技大学 广西可信软件重点实验室,广西 桂林 541004;北京信息科技大学 理学院,北京 100192;吉林大学珠海学院 公共基础与应用统计学院,广东 珠海 519041;防灾科技学院 应急管理学院,河北 三河 065201
引用格式:
[1]王茂发;章赫;黄鸿亮;单维锋;龚启舟;冷志雄-.BiLSTM与多头注意力机制结合的生成式中文自动文摘)[J].山西大学学报(自然科学版),2022(04):996-1003
A类:
生成式自动文摘,MulAtten,DRGD
B类:
BiLSTM,多头注意力机制,传统生成,生成式模型,梯度消失,捕捉到,后语,语义信息,信息不充分,Multi,head,Attention,编码器,堆叠,文本编码,成语,序列信息,信息损失,解码器,集束搜索,搜索方法,摘要,要质,LCSTS,测试集,比目,前文,ROUGE,Seq2seq,语义依赖
AB值:
0.399044
相似文献
机标中图分类号,由域田数据科技根据网络公开资料自动分析生成,仅供学习研究参考。