梯度下降,随机梯度下降,小批量梯度下降,动量梯度下降的区别

转载 2018年04月15日 10:01:51

在调整模型更新权重和偏差参数的方式时,你是否考虑过哪种优化算法能使模型产生更好且更快的效果?应该用梯度下降,随机梯度下降,还是Adam方法?

这篇文章介绍了不同优化算法之间的主要区别,以及如何选择最佳的优化方法。

优化算法的功能,是通过改善训练方式,来最小化(或最大化)损失函数E(x)。

模型内部有些参数,是用来计算测试集中目标值Y的真实值和预测值的偏差程度的,基于这些参数,就形成了损失函数E(x)。

比如说,权重(W)和偏差(b)就是这样的内部参数,一般用于计算输出值,在训练神经网络模型时起到主要作用。

在有效地训练模型并产生准确结果时,模型的内部参数起到了非常重要的作用。这也是为什么我们应该用各种优化策略和算法,来更新和计算影响模型训练和模型输出的网络参数,使其逼近或达到最优值。

优化算法分为两大类:

1.一阶优化算法

这种算法使用各参数的梯度值来最小化或最大化损失函数E(x)。最常用的一阶优化算法是梯度下降。

函数梯度:导数dy/dx的多变量表达式,用来表示y相对于x的瞬时变化率。往往为了计算多变量函数的导数时,会用梯度取代导数,并使用偏导数来计算梯度。梯度和导数之间的一个主要区别是函数的梯度形成了一个向量场。

因此,对单变量函数,使用导数来分析;而梯度是基于多变量函数而产生的。更多理论细节在这里不再进行详细解释。

2.二阶优化算法

二阶优化算法使用了二阶导数(也叫做Hessian方法)来最小化或最大化损失函数。由于二阶导数的计算成本很高,所以这种方法并没有广泛使用。

梯度下降

在训练和优化智能系统时,梯度下降是一种最重要的技术和基础。梯度下降的功能是:

通过寻找最小值,控制方差,更新模型参数,最终使模型收敛。

网络更新参数的公式为:θ=θ−η×∇(θ).J(θ) ,其中η是学习率,∇(θ).J(θ)是损失函数J(θ)的梯度。

这是在神经网络中最常用的优化算法。

如今,梯度下降主要用于在神经网络模型中进行权重更新,即在一个方向上更新和调整模型的参数,来最小化损失函数。

2006年引入的反向传播技术,使得训练深层神经网络成为可能。反向传播技术是先在前向传播中计算输入信号的乘积及其对应的权重,然后将激活函数作用于这些乘积的总和。这种将输入信号转换为输出信号的方式,是一种对复杂非线性函数进行建模的重要手段,并引入了非线性激活函数,使得模型能够学习到几乎任意形式的函数映射。然后,在网络的反向传播过程中回传相关误差,使用梯度下降更新权重值,通过计算误差函数E相对于权重参数W的梯度,在损失函数梯度的相反方向上更新权重参数。

梯度下降的变体

传统的批量梯度下降将计算整个数据集梯度,但只会进行一次更新,因此在处理大型数据集时速度很慢且难以控制,甚至导致内存溢出。

权重更新的快慢是由学习率η决定的,并且可以在凸面误差曲面中收敛到全局最优值,在非凸曲面中可能趋于局部最优值。

使用标准形式的批量梯度下降还有一个问题,就是在训练大型数据集时存在冗余的权重更新。

标准梯度下降的上述问题在随机梯度下降方法中得到了解决。

1.随机梯度下降(SDG)

随机梯度下降(Stochastic gradient descent,SGD)对每个训练样本进行参数更新,每次执行都进行一次更新,且执行速度更快。

θ=θ−η⋅∇(θ) × J(θ;x(i);y(i)),其中x(i)和y(i)为训练样本。

频繁的更新使得参数间具有高方差,损失函数会以不同的强度波动。这实际上是一件好事,因为它有助于我们发现新的和可能更优的局部最小值,而标准梯度下降将只会收敛到某个局部最优值。

但SGD的问题是,由于频繁的更新和波动,最终将收敛到最小限度,并会因波动频繁存在超调量。

虽然已经表明,当缓慢降低学习率η时,标准梯度下降的收敛模式与SGD的模式相同。

另一种称为“小批量梯度下降”的变体,则可以解决高方差的参数更新和不稳定收敛的问题。

2.小批量梯度下降

为了避免SGD和标准梯度下降中存在的问题,一个改进方法为小批量梯度下降(Mini Batch Gradient Descent),因为对每个批次中的n个训练样本,这种方法只执行一次更新。

使用小批量梯度下降的优点是:

1)可以减少参数更新的波动,最终得到效果更好和更稳定的收敛。

2)还可以使用最新的深层学习库中通用的矩阵优化方法,使计算小批量数据的梯度更加高效。

3)通常来说,小批量样本的大小范围是从50到256,可以根据实际问题而有所不同。

4)在训练神经网络时,通常都会选择小批量梯度下降算法。

这种方法有时候还是被成为SGD。

使用梯度下降及其变体时面临的挑战

1.很难选择出合适的学习率。太小的学习率会导致网络收敛过于缓慢,而学习率太大可能会影响收敛,并导致损失函数在最小值上波动,甚至出现梯度发散。

2.此外,相同的学习率并不适用于所有的参数更新。如果训练集数据很稀疏,且特征频率非常不同,则不应该将其全部更新到相同的程度,但是对于很少出现的特征,应使用更大的更新率。

3.在神经网络中,最小化非凸误差函数的另一个关键挑战是避免陷于多个其他局部最小值中。实际上,问题并非源于局部极小值,而是来自鞍点,即一个维度向上倾斜且另一维度向下倾斜的点。这些鞍点通常被相同误差值的平面所包围,这使得SGD算法很难脱离出来,因为梯度在所有维度上接近于零。

进一步优化梯度下降

现在我们要讨论用于进一步优化梯度下降的各种算法。

1.动量

SGD方法中的高方差振荡使得网络很难稳定收敛,所以有研究者提出了一种称为动量(Momentum)的技术,通过优化相关方向的训练和弱化无关方向的振荡,来加速SGD训练。换句话说,这种新方法将上个步骤中更新向量的分量’γ’添加到当前更新向量。

V(t)=γV(t−1)+η∇(θ).J(θ)

最后通过θ=θ−V(t)来更新参数。

动量项γ通常设定为0.9,或相近的某个值。

这里的动量与经典物理学中的动量是一致的,就像从山上投出一个球,在下落过程中收集动量,小球的速度不断增加。

在参数更新过程中,其原理类似:

1)使网络能更优和更稳定的收敛;

2)减少振荡过程。

当其梯度指向实际移动方向时,动量项γ增大;当梯度与实际移动方向相反时,γ减小。这种方式意味着动量项只对相关样本进行参数更新,减少了不必要的参数更新,从而得到更快且稳定的收敛,也减少了振荡过程。


简述动量Momentum梯度下降

梯度下降是机器学习中用来使模型逼近真实分布的最小偏差的优化方法。 在普通的随机梯度下降和批梯度下降当中,参数的更新是按照如下公式进行的:W = W - αdW b = b - αdb其中α是学习率...
  • yinruiyang94
  • yinruiyang94
  • 2017-09-12 13:53:17
  • 3721

【deeplearning.ai笔记第二课】2.2 优化算法(动量梯度下降,RMSprop,adam)

先上总结:1. 指数加权平均是一种 减少数据波动的方法。简单来说就是每个点的值都是前几个点和当前点的加权平均。公式如下: beta的值越大,数据越平稳。但是beta的值过大会使数据有一种“滞后”的感...
  • u012223913
  • u012223913
  • 2017-11-03 10:27:56
  • 1443

梯度下降优化方法总结

参考并翻译自Sebastian Ruder博士的总结文章An overview of gradient descent optimization algorithms。梯度下降方法是目前最流行的神经网...
  • BUPT_WX
  • BUPT_WX
  • 2016-10-08 23:34:46
  • 8610

Deep learning系列(十)随机梯度下降

介绍了随机梯度下降法在使用过程中的一些技巧,包括使用动量和在迭代过程中逐步更新学习率。...
  • u012526120
  • u012526120
  • 2015-10-16 20:27:55
  • 14937

随机梯度下降

随机梯度下降( stochastic gradient descent )           简单的介绍一下什么是随机梯度下降,为什么要用随机梯度下降这个方法。 1.背景         在我...
  • baiyu9821179
  • baiyu9821179
  • 2016-12-06 17:28:39
  • 411

随机梯度下降中,momentum的理解

梯度下降中 梯度 步长 冲量的关系
  • nuoman_cheng
  • nuoman_cheng
  • 2015-12-29 15:16:42
  • 3102

随机梯度下降、动量、RmsProp、AdamDelta、Adam方法优化

一文看懂各种神经网络优化算法:从梯度下降到Adam方法 编译自 Medium在调整模型更新权重和偏差参数的方式时,你是否考虑过哪种优化算法能使模型产生更好且更快的效果?应该用梯度下降,随机梯度下降,还...
  • sleechengn
  • sleechengn
  • 2018-04-10 13:56:49
  • 146

梯度下降,随机梯度下降,小批量梯度下降,动量梯度下降的区别

在调整模型更新权重和偏差参数的方式时,你是否考虑过哪种优化算法能使模型产生更好且更快的效果?应该用梯度下降,随机梯度下降,还是Adam方法?这篇文章介绍了不同优化算法之间的主要区别,以及如何选择最佳的...
  • qq_41645180
  • qq_41645180
  • 2018-04-15 10:01:51
  • 153

三种梯度下降的方式:批量梯度下降、小批量梯度下降、随机梯度下降

在机器学习领域中,梯度下降的方式有三种,分别是:批量梯度下降法BGD、随机梯度下降法SGD、小批量梯度下降法MBGD,并且都有不同的优缺点。 下面我们以线性回归算法为例子来对三种梯度下降法进行比较...
  • UESTC_C2_403
  • UESTC_C2_403
  • 2017-07-10 11:11:41
  • 6809

批量梯度下降(BGD)、随机梯度下降(SGD)、小批量随机梯度下降(MSGD)的理解与实现

最近在学习提高MMD算法,其中算法中有一些细节的知识,是关于mini-batch中基于四元组实现MMD损失的计算,于是就仔细地学习了下,批量梯度下降,随机梯度下降,小批量随机梯度下降的区别和比较,参考...
  • BigFish_yukang
  • BigFish_yukang
  • 2016-12-27 15:56:30
  • 607
收藏助手
不良信息举报
您举报文章:梯度下降,随机梯度下降,小批量梯度下降,动量梯度下降的区别
举报原因:
原因补充:

(最多只允许输入30个字)