典型文献
基于改进Adam优化算法的中文短文本分类方法
文献摘要：
针对BERT模型中编码器提取特征信息时因并行计算而缺少文本的时序信息及模型网络复杂度较高易受偏差影响等问题,本文提出一种基于改进Adam优化算法的模型DTSCF-Net.模型采用BERT模型提取短文本的语义特征表示,将语义特征输入到Bi-GRU中,提取具有上下文时序特征的语义信息,输入Maxpooling层筛选最优特征,分类得到该短文本的类别.针对Adam算法在拟合中产生的动量偏差添加校正算法来缓解性能下降,对比两个连续时间步上的校正动量值,选取两个时间步中的动量最大值代入梯度计算,并对学习率添加自适应调节因子,利用上一次迭代的梯度值,实现学习率的自适应调节,提高分类精度.实验表明,DTSCF-Net的分类准确率为94.86％,相较于同实验环境下的基准模型BERT、BERT-Bi-GRU分别提高2.07％、1.71％.结果证明本文所提方法具有一定的性能提升.
文献关键词：
文本分类;自适应矩估计;BERT;Bi-GRU;短文本
中图分类号：
作者姓名：
赵志杰;张艳艳;毛翔宇
作者机构：
南京信息工程大学 南京210044
文献出处：
引用格式：
[1]赵志杰;张艳艳;毛翔宇-.基于改进Adam优化算法的中文短文本分类方法)[J].电子测量技术,2022(23):132-138
A类：
DTSCF
B类：
Adam,中文短文本分类,文本分类方法,BERT,编码器,提取特征,特征信息,并行计算,时序信息,偏差影响,Net,语义特征,特征表示,Bi,GRU,上下文,时序特征,语义信息,Maxpooling,优特,校正算法,性能下降,连续时间,时间步,代入,学习率,自适应调节,调节因子,分类精度,分类准确率,实验环境,性能提升,自适应矩估计
AB值：
0.348423
相似文献
机标中图分类号，由域田数据科技根据网络公开资料自动分析生成，仅供学习研究参考。
