典型文献
基于改进遮盖策略的BERT实现文本摘要
文献摘要：
文本摘要任务是自然语言处理中一个重要的学科.基于提高在中文数据集上生成的文本摘要效果的目的,该文通过调整数据预处理阶段的分词方式和生成词向量的方式,以及改变在BERT预训练阶段MLM任务中的Mask策略,在LCSTS数据集上,进行抽取式文本摘要生成的实验.实验结果表明,在同一中文数据集上,改进模型生成的文本摘要的评价指标Rouge F相较于原始BERT模型提高了10％～17％.对数据进行中文分词预处理和在BERT中采取动态的Mask策略能够提高中文文本摘要的效果.
文献关键词：
中文;文本摘要;BERT;Mask策略
中图分类号：
作者姓名：
徐一鸣;易黎
作者机构：
武汉邮电科学研究院,湖北武汉430074;南京烽火天地通信有限公司,江苏南京210019
文献出处：
引用格式：
[1]徐一鸣;易黎-.基于改进遮盖策略的BERT实现文本摘要)[J].电子设计工程,2022(22):25-28,33
A类：
B类：
遮盖,BERT,自然语言处理,中文数据集,上生,整数,数据预处理,成词,词向量,预训练,训练阶段,MLM,Mask,LCSTS,抽取式文本摘要,文本摘要生成,改进模型,模型生成,Rouge,中文分词,中文文本
AB值：
0.365198
相似文献
机标中图分类号，由域田数据科技根据网络公开资料自动分析生成，仅供学习研究参考。
