首站-论文投稿智能助手
典型文献
神经网络非梯度优化方法研究进展
文献摘要:
神经网络优化是机器学习领域的一个基础性前沿课题.相较于神经网络的纯梯度优化算法,非梯度算法在解决收敛速度慢、易陷入局部最优、无法解决不可微等问题上表现出更大的优势.在剖析基于梯度的神经网络方法优缺点的基础上,重点对部分非梯度优化方法进行了综述,包括前馈神经网络优化和随机搜索优化;从基本理论、训练神经网络的步骤以及收敛性等方面对非梯度优化方法的优缺点和应用情况进行了分析;总结了基于非梯度的训练神经网络的算法在理论和应用方面面临的挑战并且展望了未来的发展方向.
文献关键词:
深度学习;神经网络;训练算法;优化理论;非梯度优化算法
作者姓名:
盛蕾;陈希亮;康凯
作者机构:
陆军工程大学 指挥控制工程学院,南京 210007
引用格式:
[1]盛蕾;陈希亮;康凯-.神经网络非梯度优化方法研究进展)[J].计算机工程与应用,2022(17):34-49
A类:
非梯度优化算法
B类:
神经网络优化,学习领域,前沿课题,梯度算法,收敛速度,速度慢,局部最优,决不可,可微,神经网络方法,前馈神经网络,随机搜索,搜索优化,收敛性,训练算法,优化理论
AB值:
0.297199
相似文献
机标中图分类号,由域田数据科技根据网络公开资料自动分析生成,仅供学习研究参考。