典型文献
基于加权平均随机递归梯度下降算法
文献摘要:
对传统的随机递归梯度下降算法(SARAH)采用梯度加权平均技术,在强凸条件下提出了一种加权的SARAH算法—WA-SARAH算法.然后理论上证明了该算法具有线性收敛速率,并且给出了相应的收敛阶.通过合理地选取加权系数,发现WA-SARAH算法的收敛阶要优于SARAH算法.最后通过数值实验,验证了WA-SARAH算法的合理性.
文献关键词:
机器学习;随机递归梯度下降算法;加权平均;加权系数;收敛阶
中图分类号:
作者姓名:
费经泰;郝庆一;程一元;孙钊
作者机构:
巢湖学院数学与统计学院,安徽巢湖238024;安庆师范大学数理学院,安徽安庆246133;安徽建筑大学数理学院,合肥 230601
文献出处:
引用格式:
[1]费经泰;郝庆一;程一元;孙钊-.基于加权平均随机递归梯度下降算法)[J].合肥学院学报(综合版),2022(02):12-18
A类:
随机递归梯度下降算法,SARAH
B类:
加权平均,WA,后理论,上证,有线,线性收敛,收敛速率,收敛阶,加权系数,数值实验
AB值:
0.181904
相似文献
机标中图分类号,由域田数据科技根据网络公开资料自动分析生成,仅供学习研究参考。