线性回归
梯度下降
目标函数:
线性回归 寻找山谷的最低点,也就是我们的目标函数终点 (什么样的参数能使得目标函数达到极值点)
下山分几步走呢?(更新参数)
(1):找到当前最合适的方向
(2):走那么一小步,走快了该”跌倒 ”了
这里相当于要对梯度进行小范围的计算,如果计算的大范围容易不收敛。
(3):按照方向与步伐去更新我们的参数
线性回归
梯度下降
目标函数:
线性回归 寻找山谷的最低点,也就是我们的目标函数终点 (什么样的参数能使得目标函数达到极值点)
下山分几步走呢?(更新参数)
(1):找到当前最合适的方向
(2):走那么一小步,走快了该”跌倒 ”了
这里相当于要对梯度进行小范围的计算,如果计算的大范围容易不收敛。
(3):按照方向与步伐去更新我们的参数