手把手教你估算深度神经网络的最优学习率（附代码&教程）

            本公众号先推出免费广告为业界优质服务和内容宣传。

---

01

学习率如何影响训练？

深度学习模型通常由随机梯度下降算法进行训练。随机梯度下降算法有许多变形：例如 Adam、RMSProp、Adagrad 等等。这些算法都需要你设置学习率。学习率决定了在一个小批量（mini-batch）中权重在梯度方向要移动多远。

如果学习率很低，训练会变得更加可靠，但是优化会耗费较长的时间，因为朝向损失函数最小值的每个步长很小。

如果学习率很高，训练可能根本不会收敛，甚至会发散。权重的改变量可能非常大，使得优化越过最小值，使得损失函数变得更糟。

学习率很小（上图）和学习率很大（下图）的梯度下降。来源：Cousera 机器学习课程（吴恩达）

训练应当从相对较大的学习率开始。这是因为在开始时，初始的随机权重远离最优值。在训练过程中，学习率应当下降，以允许细粒度的权重更新。

有很多方式可以为学习率设置初始值。一个简单的方案就是尝试一些不同的值，看看哪个值能够让损失函数最优，且不损失训练速度。我们可以从 0.1 这样的值开始，然后再指数下降学习率，比如 0.01，0.001 等等。当我们以一个很大的学习率开始训练时，在起初的