典型文献
自注意力机制和BiGRU相结合的文本分类研究
文献摘要:
在文本分类任务中,双向门控循环单元(Bidirectional Gated Recurrent Unit,BiGRU)被广泛使用,其不仅能提取文本上下文语义信息和长距离依赖关系,还可以避免出现传统RNN中存在的梯度弥散或爆炸问题.然而,BiGRU在捕获文本局部特征方面存在不足.本文提出一种基于自注意力和双向门控循环单元的文本分类模型(Self-attention and Bidirectional-ga-ted-recurrent Unit based Text Classification,SBUTC),利用自注意力机制关注对分类贡献较大的文本部分,使用含有不同尺寸卷积核的多通道CNN提取不同粒度的文本局部特征;通过含有跳层连接结构的堆叠BiGRU网络提取文本间上下文语义信息和长距离依赖关系;将CNN和BiGRU的输出进行特征融合,训练分类器对不同类型的文本信息进行分类.在ChnSen-tiCorp数据集和THUCNews_Title数据集上的对比实验结果表明,本文提出的模型在分类准确率和F1值上优于其他对比模型.
文献关键词:
文本分类;自注意力机制;双向门控循环单元;卷积神经网络
中图分类号:
作者姓名:
石磊;王明宇;宋哲理;陶永才;卫琳;高宇飞;范雨欣
作者机构:
郑州大学信息工程学院,郑州450001;郑州大学软件学院,郑州450002;郑州财税金融职业学院信息技术系,郑州454048
文献出处:
引用格式:
[1]石磊;王明宇;宋哲理;陶永才;卫琳;高宇飞;范雨欣-.自注意力机制和BiGRU相结合的文本分类研究)[J].小型微型计算机系统,2022(12):2541-2548
A类:
SBUTC,ChnSen,tiCorp,Title
B类:
自注意力机制,BiGRU,文本分类,分类研究,分类任务,双向门控循环单元,Bidirectional,Gated,Recurrent,Unit,上下文语义,语义信息,长距离依赖,依赖关系,避免出现,RNN,梯度弥散,本局,局部特征,分类模型,Self,attention,ga,recurrent,Text,Classification,本部,不同尺寸,卷积核,多通道,不同粒度,跳层连接,连接结构,堆叠,出进,特征融合,分类器,文本信息,THUCNews,分类准确率,对比模型
AB值:
0.364936
相似文献
机标中图分类号,由域田数据科技根据网络公开资料自动分析生成,仅供学习研究参考。