梯度是什么，简单说梯度下降是什么

百度百科：梯度的本意是一个向量（矢量），表示某一函数在该点处的方向导数沿着该方向取得最大值，即函数在该点处沿着该方向（此梯度的方向）变化最快，变化率最大（为该梯度的模）。

梯度下降：简单说就是从山顶上找一个最快，最陡峭的路线下山。