机器学习导论————线性回归（Liner Regression）

机器学习导论————线性回归（Liner Regression）

一、线性回归的应用场景

监督学习-目标值连续

• 房价预测

• 销售额预测

• 贷款额度预测

二、什么是线性回归

2.1定义与公式

线性回归(Linear Regression)是利用回归方程（函数）对一个或多个自变量（特征值）和因变量（目标值）之间关系进行建模的一种分析方式。根据自变量的个数分为_单变量回归_和_多元回归_。

通用公式：h(x)=w1x1+w2x2+w3x3+...+wixi+b = wTx+b 其中的w,x可以理解为两个系数矩阵

例如：期末成绩h(x)=0.7(w1)×考试成绩(x1)+0.3(w2)×平时成绩(x2)

如上所示，在目标值与特征值之间建立了一个线性关系，也可理解为线性模型。

三、线性回归的特征与目标的关系分析

• 线性关系
  • 单变量线性关系
  • 多变量线性关系
• 非线性关系

1.线性回归API的简单使用

• slearn.linear_model.LinearRression()

  • LinearRegression.coef_: 回归系数

代码过程

• 导入模块

from sklearn.linear_model import LinearRegression

1.获取数据集（这里我们以期末成绩为例自己构造一个数据集）

x = [[80, 86], [85, 78], [90, 90], [86, 82], [82, 90], [78, 80], [92, 94]]
y = [84.2, 80.6, 80.1, 90, 83.2, 87.6, 79.4, 93.4]

• 模型训练

estimator = LinearRegression()#实例化API
estimator.fit(x,y)#使用fit方法训练
estimator.coef_
estimator.predict([100, 80])#预测[100， 80]的期末成绩