典型文献
基于MMD双模块参数迁移的文本情感分析研究
文献摘要:
基于数据驱动的深度学习模型,需要大量的标注数据进行训练,数据的标注需要花费大量资源.迁移学习可将先验知识转移到相邻领域,可降低标注数据稀少情况下模型训练的难度.为提高迁移学习模型分类准确率,在基于参数迁移学习策略的双向LSTM和Attention机制联合模型基础上,提出了一种预训练模型和微调模型相结合的双模块改进策略,通过将预训练模型参数固定,仅调整微调模型的中间层,实现参数的迁移,然后将训练模型和微调模型输出层之间的最大平均差异(maximize mean discrepancy,MMD)值加入损失函数,提高了迁移学习的能力,降低了对标注数据的依赖.
文献关键词:
细粒度情感分析;循环神经网络;注意力机制;参数迁移;深度学习;MMD
中图分类号:
作者姓名:
王鹏德;张泾周
作者机构:
航空工业西安航空计算技术研究所 陕西西安 710068;西北工业大学自动化学院 陕西西安 710000
文献出处:
引用格式:
[1]王鹏德;张泾周-.基于MMD双模块参数迁移的文本情感分析研究)[J].信息技术与信息化,2022(04):65-68
A类:
B类:
MMD,双模块,参数迁移,文本情感分析,深度学习模型,要花费,先验知识,知识转移,稀少,模型训练,高迁,模型分类,分类准确率,迁移学习策略,Attention,联合模型,预训练模型,微调,改进策略,中间层,模型输出,出层,最大平均差异,maximize,mean,discrepancy,损失函数,细粒度情感分析,循环神经网络,注意力机制
AB值:
0.395979
相似文献
机标中图分类号,由域田数据科技根据网络公开资料自动分析生成,仅供学习研究参考。