- 博客(2)
- 收藏
- 关注
原创 最优化算法(二)
随机梯度下降算法上一篇有介绍梯度下降算法以及收敛性分析,但是梯度下降算法需要将全部的数据加载到内存,然后在全局数据上作迭代计算,数据量较大的情况下,占用较大的内存空间和计算时间,为了解决这个问题会引入另外的一个变种的算法,随机梯度下降算法。
2017-06-26 21:05:33 533
原创 最优化算法(一)
前言最优化算法在机器学习中扮演着重要的角色,很多的机器学习算法最终都会归结为如下的最优化问题minfJ(x):=λΩ(f)+Remp(f)\min_f J(x):=\lambda\Omega(f)+R_{emp}(f)以上就是结构风险最小化,其中Remp(f)R_{emp}(f)是期望风险。Remp(f):=1m∑i=1ml(f(xi),yi)R_{emp}(f):=\frac{1}{m}\s
2017-06-12 19:56:37 4817
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人