典型文献
基于ALBERT、Bi-GRU和注意力机制的文本情感分析
文献摘要：
针对静态词向量方法不能很好地解决一词多义,长短时记忆网络参数量较多、训练时间过长等不足,提出将ALBERT预训练模型、双向门控循环单元、多头注意力机制融合在一起,构建了一个微博文本情感预测模型.首先,通过ALBERT模型获取文本动态词向量;然后采用双向门控循环单元提取文本特征;接着引入多层注意力机制捕获文本序列中的重要信息;最后,通过Softmax进行情感分类.实验结果表明:所提出的模型与传统模型相比,能有效提取文本的特征,与静态词向量相比,模型准确率提升1.76％,与长短时记忆网络相比,参数数量下降25％,训练效率提升20％,有较好的实用价值.
文献关键词：
情感分析;ALBERT;注意力机制;Bi-GRU
中图分类号：
作者姓名：
王英明;郭艳梅;许青;李洁
作者机构：
马鞍山学院;马鞍山职业技术学院;马鞍山学院 安徽 当涂243100
文献出处：
引用格式：
[1]王英明;郭艳梅;许青;李洁-.基于ALBERT、Bi-GRU和注意力机制的文本情感分析)[J].通化师范学院学报,2022(08):32-39
A类：
B类：
ALBERT,Bi,GRU,文本情感分析,词向量,一词多义,长短时记忆网络,网络参数,参数量,训练时间,预训练模型,双向门控循环单元,多头注意力机制,注意力机制融合,合在一起,微博文本,情感预测,文本特征,多层注意力,重要信息,Softmax,情感分类,传统模型,有效提取,模型准确率,准确率提升,数数,训练效率
AB值：
0.364702
相似文献
机标中图分类号，由域田数据科技根据网络公开资料自动分析生成，仅供学习研究参考。
