典型文献
人工神经网络中的一种Krylov子空间优化算法
文献摘要：
介绍了人工神经网络的二阶优化算法研究现状,对人工神经网络损失函数的KSD(Kr-ylov Subspace Descent)优化算法进行改进.针对KSD算法中采用固定不变的Krylov子空间维数的方式,提出了Krylov子空间维数根据计算结果自适应改变的MKSD(Modified KSD)算法,并给出了利用MKSD、KSD以及SGD(Stochastic Gradient Descent)优化算法对不同问题的全连接神经网络进行训练的数值算例.计算结果说明MKSD的算法对比于其他算法具有一定的优势.
文献关键词：
人工神经网络;Krylov子空间;优化算法
中图分类号：
作者姓名：
张振宇;林沐阳
作者机构：
上海财经大学数学学院,上海 200433;上海财经大学浙江学院,金华 321013
文献出处：
引用格式：
[1]张振宇;林沐阳-.人工神经网络中的一种Krylov子空间优化算法)[J].工程数学学报,2022(05):681-694
A类：
KSD,ylov,MKSD
B类：
人工神经网络,Krylov,子空间,空间优化,算法研究,络损,损失函数,Subspace,Descent,数根,Modified,SGD,Stochastic,Gradient,全连接神经网络,数值算例,算法对比
AB值：
0.295541
相似文献
机标中图分类号，由域田数据科技根据网络公开资料自动分析生成，仅供学习研究参考。
