问题
简单来说,有一堆实数数据,数据的格式如下:
x1,x2,x3,⋯,xn,y
所有的这些数据称为训练集,其中x称为feature,y称为target。
现在又有一些数据:
x1,x2,x3,⋯,xn
需要做的是根据这些x的值,推测出y的值。
解决方法
Overdetermined Equations
假设y是x的线性函数(顺便说一句lr中的linear是对于θ而言的,并非针对x),表达为公式为:
y=θ0x0+θ1x1+θ2x2+⋯+θnxn
其中x0为截距(intercept term),其值恒为1。
最容易想到的方法,可以把所有训练集的数据代入这个公式,得到方程组:
⎧⎩⎨⎪⎪⎪⎪⎪⎪⎪⎪⎪⎪⎪⎪y(1)=θ0x(1)0+θ1x(1)1+θ2x(1)2+⋯+θnx(1)ny(2)=θ0x(2)0+θ1x(2)1+θ2x(2)2+⋯+θnx(2)n⋮y(m)=θ0x(m)0+θ1x(m)1+θ2x(m)2+⋯+θnx(m)n
这个方程组有m个方程,n+1个未知数,实际问题中通常是训练集的个数大于feature个数,也就是说m > n+1,这种情况下的方程组称为超定方程组,是不能直接求解的。当然可以像当年欧拉和拉普拉斯最初解决天文计算问题一样(here),把m个方程组分成n+1组,然后每一组合并成一个方程,得到n+1个方程后再求解。不过问题是怎么分成n+1组,这个很是adhoc的。
Cost Function
机器学习上解决这个问题的方法是定义一个损失函数:
J(θ)=12∑i=1m(hθ(x(i))−y(i))2
然后选择适当的θ,使得J(θ)最小。
Batch Gradient Descent(批量梯度下降)
这个最小化的算法在机器学习中称为梯度下降:
· 随机初始化一组θ值;
· 朝着减少cost function的方向,不断更新θ值,直到收敛。更新公式为:
θj:=θj−α∂J(θ)∂θj
其中α为学习速率(learning rate)。
Gradient Descent推导
假设训练集中只有一个数据,∂J(θ)∂θj计算如下:
∂J(θ)∂θj=∂(12(hθ(x)−y)2)∂θj=2∗12(hθ(x)−y)∗∂(hθ(x)−y)∂θj=(hθ(x)−y)∗∂(hθ(x)−y)∂θj=(hθ(x)−y)∗∂(∑ni=0θixi−y)∂θj=(hθ(x)−y)xj
代入更新公式:
θj=θj−α(hθ(x)−y)xj=θj+α(y−hθ(x))xj
对于有m个数据集的情况可以得到如下公式:
θj:=θj+α∑i=1m(y(i)−hθ(x(i)))x(i)j
Gradient Descent直观解释
J(θ)是一个关于θ的多元函数,高等数学的知识说,J(θ)在点P(θ0,θ1,⋯,θn)延梯度方向上升最快。现在要最小化 J(θ),为了让J(θ)尽快收敛,就在更新θ时减去其在P点的梯度。
在最终推导出的更新公式中,可以得出以下直观结论:如果遇到一个数据使得(y−hθ(x))比较小,这时候θ的更新也会很小,这也符合直观感觉。当一个数据使得差值比较大时,θ的更新也会比较大。
Stochastic Gradient Descent(随机梯度下降)
以上的讨论的算法叫batch gradient descent,batch指的是,每次更新θ的时候都需要所有的数据集。这个算法有两个缺陷:
· 数据集很大时,训练过程计算量太大;
· 需要得到所有的数据才能开始训练;
比如一个场景下,我们训练了一个lr模型,应用于线上环境,当这个模型跑在线上的时候我们会收集更多的数据。但是上面两个问题使得我们不能及时更新模型,而这正是随机梯度下降要解决的问题。
在之前的推导过程中已经给出了sgd的更新公式,只是没有指出,现正式提出sgd的更新公式:
loop for every (x, y) in training set until convergence:
θj:=θj+α(y−hθ(x))xj
与bgd唯一的区别是,无论数据集有多少,每次迭代都只用一个数据。这样当有新的数据时,直接通过上式更新θ,这就是所谓的online learning。又因为每次更新都只用到一个数据,所以可以显著减少计算量。
批量梯度下降是一种对参数的update进行累积,然后批量更新的一种方式。用于在已知整个训练集时的一种训练方式,但对于大规模数据并不合适。
随机梯度下降是一种对参数随着样本训练,一个一个的及时update的方式。常用于大规模训练集,当往往容易收敛到局部最优解。
说明:因为最小二乘问题是一个求凸函数极值的问题,它只有一个最优解,没有所谓的局部最优,所以在这个问题上完全可以大用梯度下降来解
Mini-batchgradient
它还是采用了batch的思路,也就是所有样本一起更新。和batch不同的是mini,在求解方向的时候选择了一部分样本一起更新,这样就减少了计算量,同时它又不像SGD那样极端只使用一个样本,所以保证了方向的精确性。一句话总结就是,mini-batch是一个位于BGD和SGD之间的算法,精度比BGD低,比SGD高,速度比BGD快,比SGD慢(这个结论只是单从公式上分析,没有实证)。
看下面的迭代公式,则是10个一组进行更新。