首站-论文投稿智能助手
典型文献
小批量随机块坐标下降算法
文献摘要:
针对机器学习中广泛存在的一类问题:结构化随机优化问题(其中"结构化"是指问题的可行域具有块状结构,且目标函数的非光滑正则化部分在变量块之间是可分离的),我们研究了小批量随机块坐标下降算法(mSBD).按照求解非复合问题和复合问题分别给出了基本的mSBD和它的变体,对于非复合问题,分析了算法在没有一致有界梯度方差假设情况下的收敛性质.而对于复合问题,在不需要通常的Lipschitz梯度连续性假设条件下得到了算法的收敛性.最后通过数值实验验证了mSBD的有效性.
文献关键词:
块坐标下降;随机近似;随机(复合)优化;Hölder连续;非光滑;非凸优化
作者姓名:
胡佳;郭田德;韩丛英
作者机构:
中国科学院大学数学科学学院,北京100049;中国科学院大数据挖掘与知识管理重点实验室,北京100190
文献出处:
引用格式:
[1]胡佳;郭田德;韩丛英-.小批量随机块坐标下降算法)[J].运筹学学报,2022(01):1-22
A类:
mSBD
B类:
小批量,块坐标下降,坐标下降算法,随机优化,优化问题,可行域,块状结构,非光滑,正则化,量块,可分离,变体,一致有界,收敛性,Lipschitz,下得,数值实验,随机近似,lder,非凸优化
AB值:
0.392623
相似文献
机标中图分类号,由域田数据科技根据网络公开资料自动分析生成,仅供学习研究参考。