梯度下降法中的梯度理解

注意几点：

1.梯度和方向导数有很大关系。

2.梯度的定义：梯度的本意是一个向量（矢量），表示某一函数在该点处的方向导数沿着该方向取得最大值，即函数在该点处沿着该方向（此梯度的方向）变化最快，变化率最大（为该梯度的模）。（最大方向导数的方向和最大方向导数的模）。

3.方向导数的定义：在函数定义域的内点，对某一方向求导得到的导数。一般为二元函数和三元函数的方向导数，方向导数可分为沿直线方向和沿曲线方向的方向导数。

 

转载于:https://www.cnblogs.com/mdumpling/p/8227482.html