数据挖掘08--线性回归

湫湫玺云台

已于 2024-01-26 00:56:58 修改

阅读量49

点赞数

分类专栏： python 文章标签： python 数据挖掘

于 2023-02-15 17:22:47 首次发布

本文链接：https://blog.csdn.net/qq_57620101/article/details/129047024

版权

python 专栏收录该内容

24 篇文章 1 订阅

订阅专栏

5.3.2. 梯度下降(Gradient Descent)

5.3.3. 梯度下降和正规方程的对比

5.3.4. 函数未知，梯度如何表达，梯度下降如何进行

6. 梯度下降法介绍

6.1. 全梯度下降算法（FG）

6.2. 随机梯度下降算法（SG）

6.3. 小批量梯度下降算法（mini-batch）

10.4. Ridge Regression岭回归

10.5. Lasso Regression(Lasso 回归) [ˈlæsoʊ]

10.6. Elastic Net (弹性网络)

11. 线性回归的改进-岭回归

11.1. API

11.2. 模型的保存和加载

有监督学习

监督学习的训练集要求包括输入输出，也可以说是特征和目标。训练集中的目标是由人标注的。有监督的过程为先通过已知的训练样本（如已知输入和对应的输出）来训练，从而得到一个最优模型，再将这个模型应用在新的数据上，映射为输出结果。借此，模型就有了预知能力。

监督学习的关键是训练数据同时拥有输入变量(x)和输出变量(y);使用一个算法把输入到输出的映射关系——y=f(x)训练成一个模型，用这个模型对新的数据进行预测。所有的回归算法和分类算法都是监督学习算法，例如KNN、逻辑回归、朴素贝叶斯等。

总结下来，有监督的学习模型主要有下面的特征：

①有标签。
② 已经标记好的数据
(labelled data)，用来做训练来预测新数据的类型(class)，或者是值。预测已有类型叫做分类(classification)，预测一个值叫做回归(regression)。
③ 常见的有监督学习算法：回归分析和分类。

无监督学习

无监督机器学习也被称为“没有老师的学习”，相比于有监督学习模型，无监督学习模型没有训练的过程，而是直接拿数据进行建模分析，即通过机器学习自行学习探索。即训练数据只有输入变量(x)，并没有输出变量(y)，而目的就是将这些训练数据潜在的结构或者分布找出来，类似于去探索。

其典型的特征如下：

①输入数据没有被标记，也没有确定的结果。
②样本数据类别未知，需要根据样本间的相似性对样本集进行分类(聚类，clustering)试图使类内差距最小化，类间差距最大化。

1. 回归与分类的区别

在有监督学习中，根据响应变量（目标变量）的种类，我们可以分为回归（因变量Y为连续变量）与分类（因变量Y为离散变量）

回归分析是指利用一个或多个自变量x，通过拟合适当的回归方程来预测因变量y的方法，借助回归分析，能够很好地量化描述自变量x与因变量y的关系，同时也可以预测因变量y。

回归当中主要有两种模型，一种是线性关系，另一种是非线性关系。这里我们研究线性关系，即线性回归方程。

2. 线性回归

线性回归(Linear regression)是利用线性回归方程(函数)对一个或多个自变量(特征值)和因变量(目标值)之间关系进行建模的一种分析方式。

特点：只有一个自变量的情况称为单变量回归，多于一个自变量情况的叫做多元回归。

3. 线性回归的特征与目标的关系分析

3.1. 单变量线性关系：

3.2. 多变量线性关系

注释：单特征与目标值的关系呈直线关系，或者两个特征与目标值呈现平面的关系更高维度的我们不用自己去想，记住这种关系即可

3.3. 非线性关系：

注释：为什么会这样的关系呢？原因是什么？如果是非线性关系，那么回归方程可以理解为：

指数还可能增大

4. 线性回归api初步使用

4.1. 线性回归API

sklearn.linear_model.LinearRegression()

求解：LinearRegression.coef_：回归系数

4.2. 步骤分析

1.获取数据集
2.数据基本处理（该案例中省略）
3.特征工程（该案例中省略）
4.机器学习
5.模型评估（该案例中省略）

#导入模块
from sklearn.linear_model import LinearRegression
#构造数据集
x = [[80, 86],
[82, 80],
[85, 78],
[90, 90],
[86, 82],
[82, 90],
[78, 80],
[92, 94]]
y = [84.2, 80.6, 80.1, 90, 83.2, 87.6, 79.4, 93.4]
#机器学习-- 模型训练
# 实例化API
estimator = LinearRegression()
# 使用fit方法进行训练
estimator.fit(x,y)    
print(estimator.coef_)    
estimator.predict([[100, 80]])

5. 线性回归的损失和优化

知道线性回归中损失函数
知道使用正规方程对损失函数优化的过程
知道使用梯度下降法对损失函数优化的过程

5.1. 数学基础知识:求导

学习目标知道常见的求导方法知道导数的四则运算

5.1.1. 常见函数的导数

5.1.2. 导数的四则运算

5.1.3. 矩阵（向量）求导 [了解]

https://www.cnblogs.com/yifanrensheng/p/12632456.html

5.2. 损失函数

假设刚才的房子例子，真实的数据之间存在这样的关系：

真实关系：真实房子价格 = 0.02×中心区域的距离 + 0.04×城市一氧化氮浓度 + (-0.12×自住房平均房价) + 0.254×城镇犯罪率那么现在呢，我们随意指定一个关系（猜测）
随机指定关系：预测房子价格 = 0.25×中心区域的距离 + 0.14×城市一氧化氮浓度 + 0.42×自住房平均房价 + 0.34×城镇犯罪率请问这样的话，会发生什么？真实结果与我们预测的结果之间是不是存在一定的误差呢？类似这样样子
既然存在这个误差，那我们就将这个误差给衡量出来

总损失定义为：

yi为第i个训练样本的真实值
h(xi)为第i个训练样本特征值组合预测函数
又称最小二乘法

如何去减少这个损失，使我们预测的更加准确些？既然存在了这个损失，我们一直说机器学习有自动学习的功能，在线性回归这里更是能够体现。这里可以通过一些优化方法去优化（其实是数学当中的求导功能）回归的总损失！

5.3. 优化算法

如何去求模型当中的W，使得损失最小？（目的是找到最小损失对应的W值）线性回归经常使用的两种优化算法：

正规方程
梯度下降法

5.3.1. 正规方程

理解：X为特征值矩阵，y为目标值矩阵。直接求到最好的结果缺点：当特征过多过复杂时，求解速度太慢并且得不到结果

5.3.2. 梯度下降(Gradient Descent)

梯度下降法的基本思想可以类比为一个下山的过程。假设这样一个场景：

一个人被困在山上，需要从山上下来(i.e. 找到山的最低点，也就是山谷)。但此时山上的浓雾很大，导致可视度很低。因此，下山的路径就无法确定，他必须利用自己周围的信息去找到下山的路径。这个时候，他就可以利用梯度下降算法来帮助自己下山。

具体来说就是，以他当前的所处的位置为基准，寻找这个位置最陡峭的地方，然后朝着山的高度下降的地方走，（同理，如果我们的目标是上山，也就是爬到山顶，那么此时应该是朝着最陡峭的方向往上走）。然后每走一段距离，都反复采用同一个方法，最后就能成功的抵达山谷。

梯度下降的基本过程就和下山的场景很类似。

首先，我们有一个可微分的函数。这个函数就代表着一座山。我们的目标就是找到这个函数的最小值，也就是山底。

根据之前的场景假设，最快的下山的方式就是找到当前位置最陡峭的方向，然后沿着此方向向下走，对应到函数中，就是找到给定点的梯度，然后朝着梯度相反的方向，就能让函数值下降的最快！因为梯度的方向就是函数值变化最快的方向。

所以，我们重复利用这个方法，反复求取梯度，最后就能到达局部的最小值，这就类似于我们下山的过程。而求取梯度就确定了最陡峭的方向，也就是场景中测量方向的手段。

5.3.2.1. 梯度的概念

梯度是微积分中一个很重要的概念

在单变量的函数中，梯度其实就是函数的微分，代表着函数在某个给定点的切线的斜率；
在多变量函数中，梯度是一个向量，向量有方向，梯度的方向就指出了函数在给定点的上升最快的方向；

为什么我们需要千方百计的求取梯度！我们需要到达山底，就需要在每一步观测到此时最陡峭的地方，梯度就恰巧告诉了我们这个方向。梯度的方向是函数在给定点上升最快的方向，那么梯度的反方向就是函数在给定点下降最快的方向，这正是我们所需要的。所以我们只要沿着梯度的反方向一直走，就能走到局部的最低点！

5.3.2.2. 具体方程求解极小值的梯度下降举例

单变量函数的梯度下降**

多变量函数的梯度下降

5.3.2.3. 梯度下降**（Gradient Descent）公式

α是什么含义？

α在梯度下降算法中被称作为学习率或者步长，意味着我们可以通过α来控制每一步走的距离，其实就是不要走太快，错过了最低点。同时也要保证不要走的太慢，导致太阳下山了，还没有走到山下。所以α的选择在梯度下降法中往往是很重要的！α不能太大也不能太小，太小的话，可能导致迟迟走不到最低点，太大的话，会导致错过最低点！

为什么梯度要乘以一个负号？梯度前加一个负号，就意味着朝着梯度相反的方向前进！我们在前文提到，梯度的方向实际就是函数在此点上升最快的方向！而我们需要朝着下降最快的方向走，自然就是负的梯度的方向，所以此处需要加上负号我们通过两个图更好理解梯度下降的过程

动画：https://img-blog.csdnimg.cn/20200717124458998.gif

5.3.3. 梯度下降和正规方程的对比

算法选择依据：

小规模数据：

正规方程：LinearRegression(不能解决拟合问题)

```
岭回归
```
大规模数据：梯度下降法：SGDRegressor

5.3.4. 函数未知，梯度如何表达，梯度下降如何进行

6. 梯度下降法介绍

学习目标

知道全梯度下降算法的原理
知道随机梯度下降算法的原理
知道随机平均梯度下降算法的原理
知道小批量梯度下降算法的原理

常见的梯度下降算法有：

全梯度下降算法(Full gradient descent）,
随机梯度下降算法（Stochastic gradient descent）,
小批量梯度下降算法（Mini-batch gradient descent）,
随机平均梯度下降算法（Stochastic average gradient descent）

它们都是为了正确地调节权重向量参数θ，通过为每个权重计算一个梯度，从而更新权值，使目标函数尽可能最小化。其差别在于样本的使用方式不同。

6.1. 全梯度下降算法（FG）

计算训练集所有样本误差，对其求和再取平均值作为目标函数。

权重向量沿其梯度相反的方向移动，从而使当前目标函数减少得最多。因为在执行每次更新时，我们需要在整个数据集上计算所有的梯度，所以批梯度下降法的速度会很慢，同时，批梯度下降法无法处理超出内存容量限制的数据集。

批梯度下降法同样也不能在线更新模型，即在运行的过程中，不能增加新的样本。其是在整个训练数据集上计算损失函数关于参数θ的梯度

6.2. 随机梯度下降算法（SG）

由于FG每迭代更新一次权重都需要计算所有样本误差，而实际问题中经常有上亿的训练样本，故效率偏低，且容易陷入局部最优解，因此提出了随机梯度下降算法。
其每轮计算的目标函数不再是全体样本误差，而仅是单个样本误差，即每次只代入计算一个样本目标函数的梯度来更新权重，再取下一个样本重复此过程，直到损失函数值停止下降或损失函数值小于某个可以容忍的阈值。
此过程简单，高效，通常可以较好地避免更新迭代收敛到局部最优解。其迭代形式为

其中，x(i)表示一条训练样本的特征值，y(i)表示一条训练样本的标签值但是由于，SG每次只使用一个样本迭代，若遇上噪声则容易陷入局部最优解。

6.3. 小批量梯度下降算法（mini-batch）

小批量梯度下降算法是FG和SG的折中方案,在一定程度上兼顾了以上两种方法的优点。
每次从训练样本集上随机抽取一个小样本集，在抽出来的小样本集上采用FG迭代更新权重。
被抽出的小样本集所含样本点的个数称为batch_size，通常设置为2的幂次方，更有利于GPU加速处理。
特别的，若batch_size=1，则变成了SG；若batch_size=n，则变成了FG.其迭代形式为

6.4. 随机平均梯度下降算法（SAG）

在SG方法中，虽然避开了运算成本大的问题，但对于大数据训练而言，SG效果常不尽如人意，因为每一轮梯度更新都完全与上一轮的数据和梯度无关。
随机平均梯度算法克服了这个问题，在内存中为每一个样本都维护一个旧的梯度，随机选择第i个样本来更新此样本的梯度，其他样本的梯度保持不变，然后求得所有梯度的平均值，进而更新了参数。
如此，每一轮更新仅需计算一个样本的梯度，计算成本等同于SG，但收敛速度快得多。
拓展阅读：
梯度下降法算法比较和进一步优化
梯度下降法算法比较和进一步优化_程序猿_凡白的博客-CSDN博客_什么方法能提高全梯度下降算法的计算效率

7. 线性回归api再介绍

学习目标了解正规方程的api及常用参数了解梯度下降法api及常用参数

sklearn.linear_model.LinearRegression(fit_intercept=True) 通过正规方程优化

参数
```
   fit_intercept：是否计算偏置
```
属性

  LinearRegression.coef_：回归系数

```
  LinearRegression.intercept_：偏置
```

sklearn.linear_model.SGDRegressor(loss=”squared_loss”, fit_intercept=True, learning_rate =’invscaling’, eta0=0.01)

SGDRegressor类实现了随机梯度下降学习，它支持不同的loss函数和正则化惩罚项来拟合线性回归模型。

参数：

loss:损失类型
loss=”squared_loss”: 普通最小二乘法
fit_intercept：是否计算偏置
learning_rate : string, optional
学习率填充
‘constant’: eta = eta0 ‘常数
‘optinal’: eta = 1.0 / (alpha * (t + t0)) ’随着迭代次数进行修改
‘invscaling’: eta = eta0 / pow(t, power_t)
power_t=0.25:存在父类当中
对于一个常数值的学习率来说，可以使用learning_rate=’constant’ ，并使用eta0来指定学习率。

属性：

SGDRegressor.coef_：回归系数
SGDRegressor.intercept_：偏置

sklearn提供给我们两种实现的API，可以根据选择使用

正规方程 sklearn.linear_model.LinearRegression()
梯度下降法 sklearn.linear_model.SGDRegressor(）

8. 案例：波士顿房价预测

8.1. 数据介绍

给定的这些特征，是专家们得出的影响房价的结果属性。我们此阶段不需要自己去探究特征是否有用，只需要使用这些特征。到后面量化很多特征需要我们自己去寻找

8.2. 案例分析

回归当中的数据大小不一致，是否会导致结果影响较大。所以需要做标准化处理。

数据分割与标准化处理
回归预测
线性回归的算法效果评估

回归性能评估

注：yi为预测值，y-为真实值

思考：MSE和最小二乘法的区别是？ sklearn.metrics.mean_squared_error(y_true, y_pred)

均方误差回归损失
y_true:真实值
y_pred:预测值
return:浮点数结果

8.3. 代码实现

8.3.1. 正规方程

from sklearn.datasets import load_boston
from sklearn.model_selection import train_test_split
from sklearn.preprocessing import StandardScaler
from sklearn.linear_model import LinearRegression
from sklearn.metrics import  mean_squared_error
#print(data)
def linear_model1():
    """
    线性回归:正规方程
    :return:None
    """
    # 1.获取数据
    data = load_boston()

    # 2.数据集划分
    x_train, x_test, y_train, y_test = train_test_split(data.data, data.target, random_state=22)

    # 3.特征工程-标准化
    transfer = StandardScaler()
    x_train = transfer.fit_transform(x_train)
    x_test = transfer.fit_transform(x_test)

    # 4.机器学习-线性回归(正规方程)
    estimator = LinearRegression()
    estimator.fit(x_train, y_train)

    # 5.模型评估
    # 5.1 获取系数等值
    y_predict = estimator.predict(x_test)
    print("预测值为:\n", y_predict)
    print("模型中的系数为:\n", estimator.coef_)
    print("模型中的偏置为:\n", estimator.intercept_)

    # 5.2 评价
    # 均方误差
    error = mean_squared_error(y_test, y_predict)
    print("误差为:\n", error)
    return None
linear_model1()

8.3.2. 梯度下降法

from sklearn.datasets import load_boston
from sklearn.model_selection import train_test_split
from sklearn.preprocessing import StandardScaler
from sklearn.linear_model import SGDRegressor
from sklearn.metrics import  mean_squared_error
def linear_model2():
    """
    线性回归:梯度下降法
    :return:None
    """
    # 1.获取数据
    data = load_boston()

    # 2.数据集划分
    x_train, x_test, y_train, y_test = train_test_split(data.data, data.target, random_state=22)

    # 3.特征工程-标准化
    transfer = StandardScaler()
    x_train = transfer.fit_transform(x_train)
    x_test = transfer.fit_transform(x_test)

    # 4.机器学习-线性回归(特征方程)
    estimator = SGDRegressor(max_iter=1000)
    estimator.fit(x_train, y_train)

    # 5.模型评估
    # 5.1 获取系数等值
    y_predict = estimator.predict(x_test)
    print("预测值为:\n", y_predict)
    print("模型中的系数为:\n", estimator.coef_)
    print("模型中的偏置为:\n", estimator.intercept_)

    # 5.2 评价
    # 均方误差
    error = mean_squared_error(y_test, y_predict)
    print("误差为:\n", error)

    return None
linear_model2()

9. 欠拟合和过拟合

掌握过拟合、欠拟合的概念
掌握过拟合、欠拟合产生的原因
知道什么是正则化，以及正则化的分类
过拟合：一个假设在训练数据上能够获得比其他假设更好的拟合，但是在测试数据集上却不能很好地拟合数据，此时认为这个假设出现了过拟合的现象。(模型过于复杂)
欠拟合：一个假设在训练数据上不能获得更好的拟合，并且在测试数据集上也不能很好地拟合数据，此时认为这个假设出现了欠拟合的现象。(模型过于简单) 那么是什么原因导致模型复杂？线性回归进行训练学习的时候变成模型会变得复杂，这里就对应前面再说的线性回归的两种关系，非线性关系的数据，也就是存在很多无用的特征或者现实中的事物特征跟目标值的关系并不是简单的线性关系。

欠拟合原因以及解决办法

原因：学习到数据的特征过少

解决办法：

添加其他特征项，有时候我们模型出现欠拟合的时候是因为特征项不够导致的，可以添加其他特征项来很好地解决。例如，“组合”、“泛化”、“相关性”三类特征是特征添加的重要手段，无论在什么场景，都可以照葫芦画瓢，总会得到意想不到的效果。除上面的特征之外，“上下文特征”、“平台特征”等等，都可以作为特征添加的首选项。
添加多项式特征，这个在机器学习算法里面用的很普遍，例如将线性模型通过添加二次项或者三次项使模型泛化能力更强。

过拟合原因以及解决办法

原因：原始特征过多，存在一些嘈杂特征，模型过于复杂是因为模型尝试去兼顾各个测试数据点解决办法：

重新清洗数据，导致过拟合的一个原因也有可能是数据不纯导致的，如果出现了过拟合就需要我们重新清洗数据。
增大数据的训练量，还有一个原因就是我们用于训练的数据量太小导致的，训练数据占总数据的比例过小。
正则化
减少特征维度，防止维灾难

10. 正则化

10.1. 什么是正则化

在解决回归过拟合中，我们选择正则化。但是对于其他机器学习算法如分类算法来说也会出现这样的问题，除了一些算法本身作用之外（决策树、神经网络），我们更多的也是去自己做特征选择，包括之前说的删除、合并一些特征

在学习的时候，数据提供的特征有些影响模型复杂度或者这个特征的数据点异常较多，所以算法在学习的时候尽量减少这个特征的影响（甚至删除某个特征的影响），这就是正则化调整时候，算法并不知道某个特征影响，而是去调整参数得出优化的结果

10.2. 正则化类别

L2正则化

作用：可以使得其中一些W的都很小，都接近于0，削弱某个特征的影响
优点：越小的参数说明模型越简单，越简单的模型则越不容易产生过拟合现象
Ridge回归

L1正则化

作用：可以使得其中一些W的值直接为0，删除这个特征的影响
LASSO回归

10.3. 正则化线性模型

学习目标

知道正则化中岭回归的线性模型
知道正则化中lasso回归的线性模型
知道正则化中弹性网络的线性模型
了解正则化中early stopping的线性模型
Ridge Regression 岭回归
Lasso 回归
Elastic Net 弹性网络
Early stopping

https://www.cnblogs.com/cxq1126/p/13025939.html

10.4. Ridge Regression岭回归

(岭回归，又名 Tikhonov regularization) ridge 英[rɪdʒ 脊; 垄;

岭回归是线性回归的正则化版本，即在原来的线性回归的 cost function 中添加正则项（regularization term）:

以达到在拟合数据的同时，使模型权重尽可能小的目的,岭回归代价函数:

α=0：岭回归退化为线性回归

10.5. Lasso Regression(Lasso 回归) [ˈlæsoʊ]

Lasso 回归是线性回归的另一种正则化版本，正则项为权值向量的ℓ1范数。 Lasso回归的代价函数：

【注意】

Lasso Regression 的代价函数在 θi=0处是不可导的. 解决方法：在θi=0处用一个次梯度向量(subgradient vector)代替梯度，如下式 Lasso Regression 的次梯度向量

Lasso Regression 有一个很重要的性质是：倾向于完全消除不重要的权重。

例如：当α 取值相对较大时，高阶多项式退化为二次甚至是线性：高阶多项式特征的权重被置为0。也就是说，Lasso Regression 能够自动进行特征选择，并输出一个稀疏模型（只有少数特征的权重是非零的）。

10.6. Elastic Net (弹性网络)

弹性网络在岭回归和Lasso回归中进行了折中，通过混合比(mix ratio) r 进行控制：

r=0：弹性网络变为岭回归
r=1：弹性网络便为Lasso回归弹性网络的代价函数：
一般来说，我们应避免使用朴素线性回归，而应对模型进行一定的正则化处理，那如何选择正则化方法呢？

L1正则化由于直接的使得权重w趋向0，最后会得到一个稀疏的权重矩阵，也就是大部分参数为0的模型。因此L1正则化还可以用于特征选择，留下来的输入特征往往就是对模型结果影响最大的那些特征。

L2正则化则极大的受惩罚权重λ的影响，因此找到合理的惩罚因子可能需要进行多次的实验建模。

11. 线性回归的改进-岭回归

11.1. API

sklearn.linear_model.Ridge(alpha=1.0, fit_intercept=True,solver=“auto”, normalize=False)

具有l2正则化的线性回归
alpha:正则化力度，也叫 λ
λ取值：0~ 1 1 ~ 10
solver:会根据数据自动选择优化方法
sag:如果数据集、特征都比较大，选择该随机梯度下降优化
normalize:数据是否进行标准化
normalize=False:可以在fit之前调用preprocessing.StandardScaler标准化数据
Ridge.coef_:回归权重
Ridge.intercept_:回归偏置

Ridge方法相当于SGDRegressor(penalty=‘l2’, loss=“squared_loss”),只不过SGDRegressor实现了一个普通的随机梯度下降学习，推荐使用Ridge(实现了SAG)

sklearn.linear_model.RidgeCV(BaseRidgeCV, RegressorMixin) 具有l2正则化的线性回归，可以进行交叉验证 coef:回归系数

class _BaseRidgeCV(LinearModel): def init(self, alphas=(0.1, 1.0, 10.0), fit_intercept=True, normalize=False,scoring=None, cv=None, gcv_mode=None, store_cv_values=False):

观察正则化程度的变化，对结果的影响？

正则化力度越大，权重系数会越小正则化力度越小，权重系数会越大

from sklearn.linear_model import Ridge
from sklearn.linear_model import RidgeCV
#波士顿房价预测
def linear_model3():
    """
    线性回归:岭回归
    :return:
    """
    # 1.获取数据
    data = load_boston()

    # 2.数据集划分
    x_train, x_test, y_train, y_test = train_test_split(data.data, data.target, random_state=22)

    # 3.特征工程-标准化
    transfer = StandardScaler()
    x_train = transfer.fit_transform(x_train)
    x_test = transfer.fit_transform(x_test)

    # 4.机器学习-线性回归(岭回归)
    estimator = Ridge(alpha=1)
    # estimator = RidgeCV(alphas=(0.1, 1, 10))
    estimator.fit(x_train, y_train)

    # 5.模型评估
    # 5.1 获取系数等值
    y_predict = estimator.predict(x_test)
    print("预测值为:\n", y_predict)
    print("模型中的系数为:\n", estimator.coef_)
    print("模型中的偏置为:\n", estimator.intercept_)

    # 5.2 评价
    # 均方误差
    error = mean_squared_error(y_test, y_predict)
    print("误差为:\n", error)
linear_model3()

11.2. 模型的保存和加载

学习目标知道sklearn中模型的保存和加载

1 sklearn模型的保存和加载API from sklearn.externals import joblib

保存：joblib.dump(estimator, ‘test.pkl’)
加载：estimator = joblib.load(‘test.pkl’)

2 线性回归的模型保存加载案例

Joblib就是一个可以简单地将Python代码转换为并行计算模式的软件包，它可非常简单并行我们的程序，从而提高计算速度。主要提供了以下功能

程序并行
用于在每次使用相同的输入参数调用函数时将其返回值缓存
数据存储（包括不可哈希的数据和大规模numpy数组）

import joblib
def load_dump_demo():
    """
    模型保存和加载
    :return:
    """
    # 1.获取数据
    data = load_boston()

    # 2.数据集划分
    x_train, x_test, y_train, y_test = train_test_split(data.data, data.target, random_state=22)

    # 3.特征工程-标准化
    transfer = StandardScaler()
    x_train = transfer.fit_transform(x_train)
    x_test = transfer.fit_transform(x_test)

    # 4.机器学习-线性回归(岭回归)
    # # 4.1 模型训练
    estimator = Ridge(alpha=1)
    estimator.fit(x_train, y_train)
    #
    # # 4.2 模型保存
    joblib.dump(estimator, "./data/test.pkl")

    # 4.3 模型加载
    estimator = joblib.load("./data/test.pkl")

    # 5.模型评估
    # 5.1 获取系数等值
    y_predict = estimator.predict(x_test)
    print("预测值为:\n", y_predict)
    print("模型中的系数为:\n", estimator.coef_)
    print("模型中的偏置为:\n", estimator.intercept_)

    # 5.2 评价
    # 均方误差
    error = mean_squared_error(y_test, y_predict)
    print("误差为:\n", error)
load_dump_demo()

湫湫玺云台

关注

0
点赞
踩
0

收藏

觉得还不错? 一键收藏
0
评论
数据挖掘08--线性回归

学习目标知道全梯度下降算法的原理知道随机梯度下降算法的原理知道随机平均梯度下降算法的原理知道小批量梯度下降算法的原理全梯度下降算法(Full gradient descent）,随机梯度下降算法（Stochastic gradient descent）,小批量梯度下降算法（Mini-batch gradient descent）,随机平均梯度下降算法（Stochastic average gradient descent）
复制链接

扫一扫