梯度下降算法

又称最速下降方法，由函数梯度（一元求导，二元求偏微分），设置初始位置和步长因子通过迭代来快速寻找函数极小值。

参考：

深入浅出--梯度下降法及其实现

为什么梯度反方向是函数值局部下降最快的方向？

为什么局部下降最快的方向就是梯度的负方向？

梯度方向为什么是函数上升方向