首站-论文投稿智能助手
典型文献
基于动态衰减网络和算法的图像识别
文献摘要:
针对在大样本数据集下,梯度下降法长期性存在着容易收敛到局部最优和收敛速度慢等问题,通过改变网络结构和梯度下降过程,提出了一种动态衰减网络和动态衰减梯度下降算法.在现有网络的基础上,层与层的每个神经元之间增加一条衰减权重,同时在梯度下降过程中引入了衰减权重项.衰减权重值随着迭代不断衰减,最终趋于0.由于衰减权重项的增加,可以在梯度下降的前期加快梯度下降速度和收敛速度,同时可以避免越过最优解和在最优解附近振荡,提高了网络获得最优解的概率.通过MNIST、CIFAR-10和CIFAR-100数据集的实验结果证实,所提出的动态衰减网络和算法,相比原始网络使用Adam和动量随机梯度下降法,测试准确度分别提高了0.2%~1.89%和0.75%~2.34%,同时具有更快的收敛速度.
文献关键词:
深度学习;反向传播算法;局部最优;优化算法
作者姓名:
费春国;刘启轩
作者机构:
中国民航大学电子信息与自动化学院 天津 300300
引用格式:
[1]费春国;刘启轩-.基于动态衰减网络和算法的图像识别)[J].电子测量与仪器学报,2022(07):230-238
A类:
B类:
和算,图像识别,大样本,样本数据集,长期性,局部最优,收敛速度,速度慢,梯度下降算法,权重值,下降速度,越过,最优解,MNIST,CIFAR,网络使用,Adam,随机梯度下降法,反向传播算法
AB值:
0.284878
相似文献
机标中图分类号,由域田数据科技根据网络公开资料自动分析生成,仅供学习研究参考。