机器学习-线性模型

线性模型

1、线性回归的原理

线性回归的一般形式：

有数据集 { ( x 1 , y 1 ) , ( x 2 , y 2 ) , . . . , ( x n , y n ) } \{(x_1,y_1),(x_2,y_2),...,(x_n,y_n)\} {(x1​,y1​),(x2​,y2​),...,(xn​,yn​)},其中,$x_i=(x_{i1};x_{i2};x_{i3};...;x_{id}),y_i\in R$

其中n表示变量的数量，d表示每个变量的维度。
可以用以下函数来描述y和x之间的关系：
\begin{align*}
f(x)
&= \theta_0 + \theta_1x_1 + \theta_2x_2 + … + \theta_dx_d \
&= \sum_{i=0}^{d}\theta_ix_i \
\end{align*}
如何来确定 𝜃 的值，使得 𝑓(𝑥) 尽可能接近y的值呢？均方误差是回归中常用的性能度量，即：
$$J(\theta )=\frac{1}{2}\sum _{j=1}^n(h_{\theta }(x^{(i)})-y^{(i)}{)}^2$$

我们可以选择$\theta$，试图让均方误差最小化：

极大似然估计（概率角度的诠释）

下面我们用极大似然估计，来解释为什么要用均方误差作为性能度量
我们可以把目标值和变量写成如下等式：
$$y^{(i)}={\theta }^T{x}^{(i)}+{ϵ}^{(i)}$$
$ϵ$表示我们未观测到的变量的印象，即随机噪音。我们假定$ϵ$是独立同分布，服从高斯分布。（根据中心极限定理）
$$p({ϵ}^{(i)})=\frac{1}{\sqrt{2\pi }\sigma }exp\left(-\frac{({ϵ}^{(i)}{)}^2}{2{\sigma }^2}\right)$$
因此，
$$p(y^{(i)}|x^{(i)};\theta )=\frac{1}{\sqrt{2\pi }\sigma }exp\left(-\frac{(y^{(i)}-{\theta }^T{x}^{(i)}{)}^2}{2{\sigma }^2}\right)$$
我们建立极大似然函数，即描述数据遵从当前样本分布的概率分布函数。由于样本的数据集独立同分布，因此可以写成
$$L(\theta )=p(\vec{y}|X;\theta )=\prod _{i=1}^n\frac{1}{\sqrt{2\pi }\sigma }exp\left(-\frac{(y^{(i)}-{\theta }^T{x}^{(i)}{)}^2}{2{\sigma }^2}\right)$$
选择$\theta$，使得似然函数最大化，这就是极大似然估计的思想。
为了方便计算，我们计算时通常对对数似然函数求最大值：

显然，最大化$l(\theta )$即最小化 $\frac{1}{2}{\sum }_{i=1}^n((y^{(i)}-{\theta }^T{x}^{(i)}{)}^2$。
这一结果即均方误差，因此用这个值作为代价函数来优化模型在统计学的角度是合理的。

2、线性回归损失函数、代价函数、目标函数

• 损失函数(Loss Function)：度量单样本预测的错误程度，损失函数值越小，模型就越好。
• 代价函数(Cost Function)：度量全部样本集的平均误差。
• 目标函数(Object Function)：代价函数和正则化函数，最终要优化的函数。
  常用的损失函数包括：0-1损失函数、平方损失函数、绝对损失函数、对数损失函数等；常用的代价函数包括均方误差、均方根误差、平均绝对误差等。

3、线性回归的优化方法

1、梯度下降法

设定初始参数$\theta$,不断迭代，使得$J(\theta )$最小化：
$${\theta }_j:={\theta }_j-\alpha \frac{\partial J(\theta )}{\partial \theta }$$

即：
$${\theta }_j={\theta }_j+\alpha \sum _{i=1}^n(y^{(i)}-f_{\theta }(x{)}^{(i)})x_j^{(i)}$$
注：下标j表示第j个参数，上标i表示第i个数据点。
将所有的参数以向量形式表示，可得：
$$\theta =\theta +\alpha \sum _{i=1}^n(y^{(i)}-f_{\theta }(x{)}^{(i)})x^{(i)}$$
由于这个方法中，参数在每一个数据点上同时进行了移动，因此称为批梯度下降法，对应的，我们可以每一次让参数只针对一个数据点进行移动，即：
$$\theta =\theta +\alpha (y^{(i)}-f_{\theta }(x{)}^{(i)})x^{(i)}$$
这个算法成为随机梯度下降法，随机梯度下降法的好处是，当数据点很多时，运行效率更高；缺点是，因为每次只针对一个样本更新参数，未必找到最快路径达到最优值，甚至有时候会出现参数在最小值附近徘徊而不是立即收敛。但当数据量很大的时候，随机梯度下降法经常优于批梯度下降法。

2、最小二乘法矩阵求解

令

$$X=\left[\begin{array}{c}(x^{(1)}{)}^T\\ (x^{(2)}{)}^T\\ \dots \\ (x^{(n)}{)}^T\end{array}\right]$$
其中，
$$x^{(i)}=\left[\begin{array}{c}{x}_1^{(i)}\\ x_2^{(i)}\\ \dots \\ x_d^{(i)}\end{array}\right]$$
由于
$$Y=\left[\begin{array}{c}{y}^{(1)}\\ y^{(2)}\\ \dots \\ y^{(n)}\end{array}\right]$$
$h_{\theta }(x)$可以写作
$$h_{\theta }(x)=X\theta$$
对于向量来说，有
$$z^{T}z=\sum _i{z}_i^2$$
因此可以把损失函数写作
$$J(\theta )=\frac{1}{2}(X\theta -Y{)}^T(X\theta -Y)$$
为最小化$J(\theta )$,对$\theta$求导可得：

中间两项互为转置，由于求得的值是个标量，矩阵与转置相同，因此可以写成

令偏导数等于零，由于最后一项和$\theta$无关，偏导数为0。
因此，
$$\frac{\partial J(\theta )}{\partial \theta }=\frac{1}{2}\frac{\partial }{\partial \theta }{\theta }^T{X}^{T}X\theta -\frac{\partial }{\partial \theta }{\theta }^T{X}^{T}Y$$
利用矩阵求导性质，

$$\frac{\partial {\vec{x}}^T\alpha }{\partial \vec{x}}=\alpha$$
和
$$\frac{\partial A^{T}B}{\partial \vec{x}}=\frac{\partial A^T}{\partial \vec{x}}B+\frac{\partial B^T}{\partial \vec{x}}A$$

令导数等于零，
$$X^{T}X\theta =X^{T}Y$$
$$\theta =(X^{T}X{)}^{(-1)}{X}^{T}Y$$

3、牛顿法

$$f(\theta {)}^{\prime }=\frac{f(\theta )}{\Delta },\Delta ={\theta }_0-{\theta }_1$$
$$可求得，{\theta }_1={\theta }_0-\frac{f({\theta }_0)}{f({\theta }_0{)}^{\prime }}$$
重复迭代，可以让逼近取到$f(\theta )$的最小值
当我们对损失函数$l(\theta )$进行优化的时候，实际上是想要取到$l^{\prime }(\theta )$的最小值，因此迭代公式为：
$$\theta :=\theta -\frac{l^{\prime }(\theta )}{l^{\prime \prime }(\theta )}$$
$$当\theta 是向量值的时候，\theta :=\theta -H^{-1}{\Delta }_{\theta }l(\theta )$$
其中，${\Delta }_{\theta }l(\theta )$是$l(\theta )$对${\theta }_i$的偏导数，$H$是$J(\theta )$的海森矩阵，

$$H_{ij}=\frac{{\partial }^{2}l(\theta )}{\partial {\theta }_i\partial {\theta }_j}$$
问题：请用泰勒展开法推导牛顿法公式。
Answer：将$f(x)$用泰勒公式展开到第二阶，

$$f(x)=f(x_0)+f^{\prime }(x_0)(x-x_0)+\frac{1}{2}{f}^{\prime \prime }(x_0)(x-x_0{)}^2$$
对上式求导，并令导数等于0，求得x值
$$f^{\prime }(x)=f^{\prime }(x_0)+f^{\prime \prime }(x_0)x-f^{\prime \prime }(x_0)x_0=0$$
可以求得，
$$x=x_0-\frac{f^{\prime }(x_0)}{f^{\prime \prime }(x_0)}$$
牛顿法的收敛速度非常快，但海森矩阵的计算较为复杂，尤其当参数的维度很多时，会耗费大量计算成本。我们可以用其他矩阵替代海森矩阵，用拟牛顿法进行估计。

4、拟牛顿法

拟牛顿法的思路是用一个矩阵替代计算复杂的海森矩阵H，因此要找到符合H性质的矩阵。
要求得海森矩阵符合的条件，同样对泰勒公式求导$f^{\prime }(x)=f^{\prime }(x_0)+f^{\prime \prime }(x_0)x-f^{\prime \prime }(x_0)x_0$
令$x=x_1$，即迭代后的值，代入可得：
$$f^{\prime }(x_1)=f^{\prime }(x_0)+f^{\prime \prime }(x_0)x_1-f^{\prime \prime }(x_0)x_0$$
更一般的：
$$f^{\prime }(x_{k+1})=f^{\prime }(x_k)+f^{\prime \prime }(x_k)x_{k+1}-f^{\prime \prime }(x_k)x_k$$
$$f^{\prime }(x_{k+1})-f^{\prime }(x_k)=f^{\prime \prime }(x_k)(x_{k+1}-x_k)=H(x_{k+1}-x_k)$$
$x_k$为第k个迭代值
即找到矩阵G，使得它符合上式。
常用的拟牛顿法的算法包括DFP，BFGS等。

4、线性回归的评价指标

均方误差(MSE):$\frac{1}{m}{\sum }_{i=1}^m(y^{(i)}-{\hat{y}}^{(i)}{)}^2$
均方根误差(RMSE)：$\sqrt{MSE}=\sqrt{\frac{1}{m}{\sum }_{i=1}^m(y^{(i)}-{\hat{y}}^{(i)}{)}^2}$

但以上评价指标都无法消除量纲不一致而导致的误差值差别大的问题，最常用的指标是$R^2$,可以避免量纲不一致问题
$$R^2:=1-\frac{{\sum }_{i=1}^m(y^{(i)}-{\hat{y}}^{(i)}{)}^2}{{\sum }_{i=1}^m(\bar{y}-{\hat{y}}^{(i)}{)}^2}=1-\frac{\frac{1}{m}{\sum }_{i=1}^m(y^{(i)}-{\hat{y}}^{(i)}{)}^2}{\frac{1}{m}{\sum }_{i=1}^m(\bar{y}-{\hat{y}}^{(i)}{)}^2}=1-\frac{MSE}{VAR}$$
我们可以把 𝑅2 理解为，回归模型可以成功解释的数据方差部分在数据固有方差中所占的比例， 𝑅2 越接近1，表示可解释力度越大，模型拟合的效果越好。

5、sklearn.linear_model参数详解：

fit_intercept : 默认为True,是否计算该模型的截距。如果使用中心化的数据，可以考虑设置为False,不考虑截距。注意这里是考虑，一般还是要考虑截距

normalize: 默认为false. 当fit_intercept设置为false的时候，这个参数会被自动忽略。如果为True,回归器会标准化输入参数：减去平均值，并且除以相应的二范数。当然啦，在这里还是建议将标准化的工作放在训练模型之前。通过设置sklearn.preprocessing.StandardScaler来实现，而在此处设置为false

copy_X : 默认为True, 否则X会被改写

n_jobs: int 默认为1. 当-1时默认使用全部CPUs ??(这个参数有待尝试)

可用属性：

coef_:训练后的输入端模型系数，如果label有两个，即y值有两列。那么是一个2D的array

intercept_: 截距

可用的methods:

fit(X,y,sample_weight=None):
X: array, 稀疏矩阵 [n_samples,n_features]
y: array [n_samples, n_targets]
sample_weight: 权重 array [n_samples]
在版本0.17后添加了sample_weight

get_params(deep=True)： 返回对regressor 的设置值

predict(X): 预测 基于 R^2值

score： 评估

参考:https://blog.csdn.net/weixin_39175124/article/details/79465558