基于XLNet+BiGRU+Att(Label)的文本分类模型|刘柏霆;管卫利;李陶深|南宁学院数字经济学院,广西南宁 530299 - 期刊导航|首站-论文投稿智能助手|论文发表|论文智能投稿|期刊自助发表推荐|杂志社快速发表|查同导刊-域田数据官方网站

典型文献

基于XLNet+BiGRU+Att(Label)的文本分类模型

文献摘要：

传统的词向量嵌入模型,如Word2Vec、GloVe等模型无法实现一词多义表达;传统的文本分类模型也未能很好地利用标签词的语义信息.基于此,提出一种基于XLNet+BiGRU+Att(Label)的文本分类模型.首先用XLNet生成文本序列与标签序列的动态词向量表达;然后将文本向量输入到双向门控循环单元(BiGRU)中提取文本特征信息;最后将标签词与注意力机制结合,选出文本的倾向标签词,计算倾向标签词与文本向量的注意力得分,根据注意力得分更新文本向量.通过对比实验,本文模型比传统模型在文本分类任务中的准确率更高.使用XLNet作为词嵌入模型,在注意力计算时结合标签词能够提升模型的分类性能.

文献关键词：

文本分类;XLNet;BiGRU;标签词;注意力机制

中图分类号：

[1] 自动化技术、计算机技术（TP） / 计算技术、计算机技术（TP3） / 计算机的应用（TP39） / 信息处理(信息加工)（TP391） / 文字信息处理（TP391.1）

[2] 自动化技术、计算机技术（TP） / 自动化基础理论（TP1） / 人工智能理论（TP18） / 人工神经网络与计算（TP183）

[3] 自动化技术、计算机技术（TP） / 计算技术、计算机技术（TP3） / 计算机的应用（TP39） / 信息处理(信息加工)（TP391）

作者姓名：

刘柏霆;管卫利;李陶深

作者机构：

广西大学计算机与电子信息学院,广西南宁 530004;南宁学院数字经济学院,广西南宁 530299

文献出处：

广西科学院学报

引用格式：

[1]刘柏霆;管卫利;李陶深-.基于XLNet+BiGRU+Att(Label)的文本分类模型)[J].广西科学院学报,2022(04):412-419

A类：

XLNet+BiGRU+Att

B类：

Label,文本分类,分类模型,词向量,向量嵌入,Word2Vec,GloVe,一词多义,标签词,语义信息,先用,成文,向量表达,文本向量,双向门控循环单元,文本特征,特征信息,注意力机制,传统模型,分类任务,词嵌入模型,分类性能

AB值：

0.295116

相似文献

机标中图分类号，由域田数据科技根据网络公开资料自动分析生成，仅供学习研究参考。