神经网络学习（二）损失函数梯度下降的那些事

1.什么梯度

梯度是一个向量，它代表了函数在某一点上变化最快的方向和该方向上的变化率

百度上是这么说的，我的理解就是张量的导数。

2.为什么损失函数的梯度下降就能优化模型

废话，众所周知，损失函数越小，模型拟合的就越准确，所以要梯度下降，让他的梯度变小。