- 博客(1)
- 收藏
- 关注
原创 机器学习中几种常见优化方法总结
1、梯度下降法假设f(x)是具有一阶连续偏导数的函数。要求解的无约束最优化问题是:梯度下降法是一种迭代算法,选取适当的初值x(0),不断迭代更新x的值,进行目标函数的极小化,直到收敛。由于负梯度方向是使得函数值下降最快的方向,所以在迭代的每一步,以负梯度方向更新x的值,从而达到减少函数值的目的。f(x)具有一阶连续偏导数,若第k次迭代值为x(k),则可将f(x)在x(k)附近进行一阶泰
2016-05-29 00:42:35 4355
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人