典型文献
基于BERT和层次化Attention的微博情感分析研究
文献摘要：
微博情感分析旨在挖掘网民对特定事件的观点和看法,是网络舆情监测的重要内容.目前的微博情感分析模型一般使用Word2Vector或GloVe等静态词向量方法,不能很好地解决一词多义问题;另外,使用的单一词语层Attention机制未能充分考虑文本层次结构的重要性,对句间关系捕获不足.针对这些问题,提出一种基于BERT和层次化Attention的模型BERT-HAN(bidirectional encoder representations from transformers-hierarchical Attention networks).通过BERT生成蕴含上下文语意的动态字向量;通过两层BiGRU分别得到句子表示和篇章表示,在句子表示层引入局部Attention机制捕获每句话中重要的字,在篇章表示层引入全局Attention机制以区分不同句子的重要性;通过Softmax对情感进行分类.实验结果表明,提出的BERT-HAN模型能有效提升微博情感分析的Macro F1和Micro F1值,具有较大的实用价值.
文献关键词：
深度学习;情感分析;特征提取;词向量;注意力机制
中图分类号：
作者姓名：
赵宏;傅兆阳;赵凡
作者机构：
兰州理工大学 计算机与通信学院,兰州 730050;甘肃省科学技术情报研究所,兰州 730000
文献出处：
引用格式：
[1]赵宏;傅兆阳;赵凡-.基于BERT和层次化Attention的微博情感分析研究)[J].计算机工程与应用,2022(05):156-162
A类：
Word2Vector
B类：
BERT,层次化,Attention,微博,情感分析,网民,网络舆情监测,一般使用,GloVe,词向量,一词多义,词语,文本层次,层次结构,对句,句间关系,HAN,bidirectional,encoder,representations,from,transformers,hierarchical,networks,上下文,语意,字向量,两层,BiGRU,句子,表示层,每句话,Softmax,Macro,Micro,注意力机制
AB值：
0.467754
相似文献
机标中图分类号，由域田数据科技根据网络公开资料自动分析生成，仅供学习研究参考。
