典型文献
基于语句融合和自监督训练的文本摘要生成模型
文献摘要：
为了提高深度神经网络文本生成技术的语句融合能力,文中提出基于语句融合和自监督训练的文本摘要生成模型.在模型训练前,首先根据语句融合理论中的信息联系点概念对训练数据进行预处理,使其满足之后模型训练的需要.文中模型可分为两个阶段的训练.在第一阶段,根据语句融合现象在数据集上的分布情况,设计以信息联系点为最小语义单元的排列语言模型训练任务,增强模型对融合语句上下文的信息捕捉能力.在第二阶段,采用基于语句融合信息的注意力掩码策略控制模型在生成文本过程中的信息摄入程度,加强文本生成阶段的语句融合能力.在公开数据集上的实验表明,文中模型在基于统计、深层语义和语句融合比例等多个评测指标上都较优.
文献关键词：
自动文本摘要;语句融合;预训练语言模型;深度神经网络;自监督训练
中图分类号：
作者姓名：
邹傲;郝文宁;靳大尉;陈刚
作者机构：
陆军工程大学 指挥控制工程学院 南京210007
文献出处：
引用格式：
[1]邹傲;郝文宁;靳大尉;陈刚-.基于语句融合和自监督训练的文本摘要生成模型)[J].模式识别与人工智能,2022(05):401-411
A类：
语句融合
B类：
自监督训练,文本摘要生成,生成模型,高深,深度神经网络,网络文本,文本生成,生成技术,融合能力,模型训练,融合理论,联系点,训练数据,第一阶段,融合现象,训练任务,增强模型,合语,上下文,捕捉能力,第二阶段,融合信息,掩码,策略控制,控制模型,成文,摄入,公开数据集,深层语义,评测指标,自动文本摘要,预训练语言模型
AB值：
0.310073
相似文献
机标中图分类号，由域田数据科技根据网络公开资料自动分析生成，仅供学习研究参考。
