梯度下降 Gradient Descent

普通的梯度下降，就是走一步算一下当前的梯度，然后用走一段当前梯度的反方向的路程。不断进行这个步骤。

加入动量的梯度下降，就是你当前走的方向不单单取决于你的梯度，还取决于你上一步的动作。