典型文献
基于动量分数阶梯度的卷积神经网络优化方法
文献摘要:
针对采用传统梯度下降算法训练卷积神经网络收敛速度慢的问题,提出了动量分数阶梯度下降算法.介绍了分数阶微积分的定义,并依据问题描述,通过算法推导,将整数阶梯度下降算法中的动量思想应用到分数阶梯度下降算法中,设计出动量分数阶梯度下降算法.使用测试函数验证算法的收敛性,并分析不同分数阶阶次和动量项系数对算法收敛性的影响.在三个数据集上使用动量分数阶梯度下降算法与传统梯度下降算法、动量梯度下降算法作对比实验,实验数据表明,动量分数阶梯度下降算法可以在不同复杂程度的数据集上,在保证较高分类准确率的前提下,极大提高卷积神经网络的收敛速度,为训练卷积神经网络节省大量时间成本.
文献关键词:
卷积神经网络;分数阶;梯度下降;动量
中图分类号:
作者姓名:
郭明霄;王宏伟;王佳;李昊哲;杨仕旗
作者机构:
新疆大学 电气工程学院,乌鲁木齐 830047;大连理工大学 控制科学与工程学院,辽宁 大连 116024;大连医科大学 基础医学院,辽宁 大连 116041
文献出处:
引用格式:
[1]郭明霄;王宏伟;王佳;李昊哲;杨仕旗-.基于动量分数阶梯度的卷积神经网络优化方法)[J].计算机工程与应用,2022(06):80-87
A类:
B类:
神经网络优化,梯度下降算法,算法训练,网络收敛速度,速度慢,分数阶微积分,整数阶,思想应用,出动,测试函数,收敛性,同分数,阶次,动量梯度下降,复杂程度,分类准确率,时间成本
AB值:
0.198244
相似文献
机标中图分类号,由域田数据科技根据网络公开资料自动分析生成,仅供学习研究参考。