回归分析：一元线性回归模型 白话解析与案例实现

线性学习

回归分析是研究自变量x与因变量y的关系的方法。
生活中经常会有类似的关系，例如工龄与工资的关系、房屋面积与价格的关系等等。

一元线性回归模型

只是涉及一个自变量的关系，可以用一元线性方程来表示:

$y=ax+b$

从统计的角度来观察，生活实际案例中的样本点存在随机扰动$ϵ$，所以会有一定的偏差。因此一元线性回归模型可以表示为：

$y=\beta 1x+\beta 0+ϵ$

此时，$\beta 1、\beta 2$都是未知的，随机扰动项$ϵ$也是未知的。

我们想要用统计学方法估计出真实的、不可观测的一元线性回归模型，利用样本数据估计出$\beta 1,\beta 0$ ，将它们的估计值记为$\hat{\beta }1,\hat{\beta }0$，由此得出的相应的y的估计值为$ \hat{y}$，用经验回归方程表示：

$ \hat{y}=\hat{\beta}1 x+\hat{\beta}0 $

以下列散点图为例，我们先找到一个线性回归方程，尽可能更好的去拟合这些样本点，即：尽可能找到误差最小的方程去表示这个一元线性回归模型。这个过程我们可以使用最小二乘估计，也可以使用极大似然估计等。

一元线性回归模型python的实现过程

我们以方程y=0.1x+0.5为依据，加入噪声，生成了100个随机样本，经过估计得到一元线性回归模型参数如下

• 归方程的斜率为： [[0.09154158]]
• 回归方程的截距为： [0.5006561]
• 回归方程为：y = [[0.09154158]] *x + ( [0.5006561] )

import numpy as np
import pandas as pd
import  matplotlib.pyplot as plt #类似 MATLAB 中绘图函数的相关函数

#设置随机数种子，便于二次实验复现
np.random.seed(1)
count=100
data=[]
for i in range(count):
    x1=np.random.normal(0.00,0.55)
    y1=x1*0.1+0.5+np.random.normal(0.00,0.03)
    data.append([x1,y1])

data =pd.DataFrame(data)

x_data=np.array(data[0])
y_data=np.array(data[1])

#绘制散点图
plt.scatter(x_data,y_data,c='r')
plt.show()

from sklearn.linear_model import LinearRegression
regr = LinearRegression()

x_data=x_data.reshape(-1,1)
y_data=y_data.reshape(-1,1)
#拟合方程
regr.fit(x_data,y_data)

#可视化
plt.scatter(x_data,y_data,c='r')
plt.plot(x_data,regr.predict(x_data),color='black')
plt.show()