来源:期刊VIP网 时间:
作者:段复建;秦晓风;李向利;
单位:桂林电子科技大学数学与计算科学学院;
摘要:随机优化问题是机器学习与优化交叉领域的一大研究热点,其中经验风险最小化问题尤为突出.提出了一种自适应步长的随机递归梯度算法,结合重要性采样并使用BB方法动态调整步长参数,通过降低随机梯度方差,从而有效地提高了收敛速度.在强凸假设下算法具有线性收敛速度,数值实验表明该算法是有效可行的.
关键词:经验风险最小化问题;;随机递归梯度算法;;BB方法
基金资助:国家自然科学基金(11961010)