典型文献
基于MPNet预训练和多头注意力特征融合的引文意图分类方法
文献摘要：
引文意图自动分类是文献计量领域的重要问题,现有的引文意图分类模型存在对文本特征抽取能力有限、无法融合引文上下文特征和引文外部特征的问题.因此,文中提出基于MPNet预训练和多头注意力特征融合的引文意图分类方法.引入位置补偿结构,改善掩码语言模型与排列语言模型存在的缺陷.联合引文的语法词频特征与引文结构特征,提出适用于引文意图分类任务的特征抽取方法.再引入多头注意力机制进行特征融合,提升分类效果.在ACL-ARC数据集上的实验表明,文中方法在引文意图分类任务上性能较优,同时还具有在不平衡数据上的鲁棒性.
文献关键词：
引文意图分类;特征融合;预训练模型;特征抽取;多头注意力机制
中图分类号：
作者姓名：
祁瑞华;邵震;关菁华;郭旭
作者机构：
大连外国语大学 语言智能研究中心 大连116044;大连外国语大学 软件学院 大连116044
文献出处：
引用格式：
[1]祁瑞华;邵震;关菁华;郭旭-.基于MPNet预训练和多头注意力特征融合的引文意图分类方法)[J].模式识别与人工智能,2022(09):849-857
A类：
MPNet,引文意图分类
B类：
注意力特征融合,分类方法,自动分类,分类模型,文本特征,特征抽取,上下文特征,外部特征,位置补偿,掩码语言模型,语法,词频,分类任务,再引入,多头注意力机制,分类效果,ACL,ARC,中方,不平衡数据,预训练模型
AB值：
0.193718
相似文献
机标中图分类号，由域田数据科技根据网络公开资料自动分析生成，仅供学习研究参考。
