深度学习中的优化方法-AdaGrad

码字不易，转载请注明出处~

tags: optimizer;AdaGrad

本文来源于下面博客：
https://medium.com/konvergen/an-introduction-to-adagrad-f130ae871827

前面讲到梯度下降法以及带动量的梯度下降法、NAG等，它们的一个共同的特点是都包含学习率$\eta$这个参数，而这个参数的选择属于超参数的范围。个人感觉超参数包含了两方面的内容：1. 参数需要人工调整，不是一次设置之后系统自动处理；2. 对全局的影响相当大，不同的取值在一定程度上影响整体的效果。然而超参数的麻烦之处在于，它是需要人不断调整试优的，或大或小都可能导致网络无法达到最优解。更麻烦的是，对于神经网络而言，它本身需要解决的是一个高维的非凸优化问题，维度高达上百万维，极有可能在不同的维度上，某个参数比较适合而在另外一些维度上面，该参数就可能不适合了。对于学习率，面临的就是这种情况。因此，我们希望最好的情况是学习率能够根据网络训练样本的变化而自动调整，这样就省去了很多人为的工作，更重要的是，这样也许能够使网络自己找到最好的优化方向，而不是去地毯式搜索。

AdaGrad

该算法应对的就是在高维空间中，网络学习率在各个维度上面应该如何变化这个问题。公式如下：
$${\theta }_{t+1}={\theta }_t-\frac{\eta }{\sqrt{\epsilon I+diag(G_t)}}\cdot g_t\text{\hspace{1em}(1)}$$
式中，$\theta$是需要更新的权重参数，$\eta$是初始化学习率，$\epsilon$是为了避免除0引入的因子，$I$是单位矩阵，$g_t$是在t时刻所计算得到的梯度，公式如下：
$$g_t=\frac{1}{n}\sum _{i=1}^n{\nabla }_{\theta }L(x^{(i)},y(i),{\theta }_t)\text{\hspace{1em}(2)}$$
最关键的是$G_t$矩阵，它表示到t时刻为止，所有之前和现在所累积的梯度信息，公式如下：
$$G_t=\sum _{\tau =1}^t{g}_{\tau }{g}_{\tau }^T\text{\hspace{1em}(3)}$$
看着有点累人，感觉每次计算都要计算一个大矩阵。实际上，也的确如此。如果每次使用$G_t$进行计算，那么势必会有很大的计算量，更何况还要进行矩阵的开方运算。所以，如果我们仅仅计算对角化的$G_t$，情况就会好很多，毕竟对角阵有很好的性质，所有的操作都可以应用到每一个对角元素上面而无需增加额外的运算负担。这样就可以很容易进行参数更新了。
$$\left[\begin{array}{c}{\theta }_{t+1}^{(1)}\\ {\theta }_{t+1}^{(2)}\\ ⋮\\ {\theta }_{t+1}^{(m)}\end{array}\right]=\left[\begin{array}{c}{\theta }_t^{1)}\\ {\theta }_t^{(2)}\\ ⋮\\ {\theta }_t^{(m)}\end{array}\right]-\eta {\left(\begin{array}{c}\left[\begin{array}{ccccc}& \epsilon & 0& \cdots & 0\\ & 0& \epsilon & \cdots & 0\\ & ⋮& ⋮& \ddots & ⋮\\ & 0& 0& \cdots & \epsilon \end{array}\right]+\left[\begin{array}{ccccc}& G_t^{(1,1)}& 0& \cdots & 0\\ & 0& G_t^{(2,2)}& \cdots & 0\\ & ⋮& ⋮& \ddots & ⋮\\ & 0& 0& \cdots & G_t^{m,m}\end{array}\right]\end{array}\right)}^{-1/2}\cdot \left[\begin{array}{cc}& g_t^{(1)}\\ & g_t^{(2)}\\ & ⋮\\ & g_t^{(m)}\end{array}\right]$$
还是看起来挺复杂的，其实只需要关注的是学习率更新这部分内容，所有可以进行适当的简化，就可以得到如下的式子：
$$\left[\begin{array}{c}{\theta }_{t+1}^{(1)}\\ {\theta }_{t+1}^{(2)}\\ ⋮\\ {\theta }_{t+1}^{(m)}\end{array}\right]=\left[\begin{array}{c}{\theta }_t^{1)}\\ {\theta }_t^{(2)}\\ ⋮\\ {\theta }_t^{(m)}\end{array}\right]\left[\begin{array}{ccccc}& \frac{\eta }{\sqrt{\epsilon +G_t^{(1,1)}}}& 0& \cdots & 0\\ & 0& \frac{\eta }{\sqrt{\epsilon +G_t^{(2,2)}}}& \cdots & 0\\ & ⋮& ⋮& \ddots & ⋮\\ & 0& 0& \cdots & \frac{\eta }{\sqrt{\epsilon +G_t^{(m,m)}}}\end{array}\right]\cdot \left[\begin{array}{cc}& g_t^{(1)}\\ & g_t^{(2)}\\ & ⋮\\ & g_t^{(m)}\end{array}\right]$$
最终，可以得到AdaGrad的表达式如下：
$$\left[\begin{array}{c}{\theta }_{t+1}^{(1)}\\ {\theta }_{t+1}^{(2)}\\ ⋮\\ {\theta }_{t+1}^{(m)}\end{array}\right]=\left[\begin{array}{c}{\theta }_t^{1)}\\ {\theta }_t^{(2)}\\ ⋮\\ {\theta }_t^{(m)}\end{array}\right]\left[\begin{array}{cc}& \frac{\eta }{\sqrt{\epsilon +G_t^{(1,1)}}}{g}_t^{(1)}\\ & \frac{\eta }{\sqrt{\epsilon +G_t^{(2,2)}}}{g}_t^{(2)}\\ & ⋮\\ & \frac{\eta }{\sqrt{\epsilon +G_t^{(m,m)}}}{g}_t^{(m)}\end{array}\right]\text{\hspace{1em}(4)}$$
对比之前文章中的随机梯度下降法：
$$\left[\begin{array}{c}{\theta }_{t+1}^{(1)}\\ {\theta }_{t+1}^{(2)}\\ ⋮\\ {\theta }_{t+1}^{(m)}\end{array}\right]=\left[\begin{array}{c}{\theta }_t^{1)}\\ {\theta }_t^{(2)}\\ ⋮\\ {\theta }_t^{(m)}\end{array}\right]\left[\begin{array}{cc}& \eta g_t^{(1)}\\ & \eta g_t^{(2)}\\ & ⋮\\ & \eta g_t^{(m)}\end{array}\right]\text{\hspace{1em}(5)}$$
可以看到，这里相当于每次在进行参数更新的时候，将$\eta$缩放了$\frac{1}{\sqrt{(}\epsilon +G_t)}$倍，而且由于$G_t$每次都累加梯度，因此是发生变化的。这就看上去仿佛学习率是发生变化的。虽然事实上只是梯度$g_t$之前的因子发生了变化，我觉得这里应该理解为，学习率不变，只不过给学习率乘以了一个变化的变量，因此看上去好像学习率发生了变化。当然，如果把梯度之前的乘子看做是学习率，那理解为学习率变化也没什么问题。所以，AdaGrad的做法就是这样。
实际上，(3)中的公式也不太好理解，如果写成下面这样或许更直白易懂：
$$G_t^{(i,i)}=\sum _{\tau =1}^t(g_{\tau }^{(i)}{)}^2\text{\hspace{1em}(6)}$$
那么参数的更新过程就可以写作：
$${\theta }_{t+1}={\theta }_t-\frac{\eta }{\sqrt{\epsilon +\sum g_t^2}}⨀g_t\text{\hspace{1em}(7)}$$
式中的矩阵乘积用了$⨀$。之所以(3)写成那样，主要是为了理解实际上真实发生的是矩阵的的操作，而且缩放因子中的$G$代表的是对角矩阵。

AdaGrad的特点

算法对于稀疏的数据所表现的性能更好，对于经常出现的特征，我们希望他们他们的学习率更新不要太快，而对不常出现的特征，则希望学习率更新快一些，从而能够让网络学习到的特征更好。但由于一般我们在网络学习之初就对每一次梯度进行了累积，所以当网络训练到一定程度的时候（不一定收敛），很容易导致网络没法继续学习，因为此时的学习率接近0。而这个问题需要进行进一步改进，也就是下面其他的自适应学习率方法所做的工作。

参考

1. J. Duchi, E. Hazan, Y. Singer, “Adaptive Subgradient Methods for Online Learning and Stochastic Optimization” (2011)
2. I. Goodfellow, Y. Bengio, A. Courville, “Deep Learning” (2016)