【P27 回归算法及应用实践】

已于 2022-11-01 16:24:08 修改
阅读量116 收藏 1
点赞数
分类专栏： Python 深度学习 文章标签： 回归 数据挖掘 人工智能
于 2022-07-02 22:57:24 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/m0_51233386/article/details/125578611
版权

回归算法及应用实践

1 相关与回归

在这里插入图片描述

1.1 有监督的机器学习过程

在这里插入图片描述

1.2 分类与回归

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

1.3 一个简单的案例

在这里插入图片描述

1.4 回归分析与相关分析

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

1.5 相关分析

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
1.6 实例
在这里插入图片描述
在这里插入图片描述

import numpy as np 
import pandas as pd

investment = [20,40,20,30,10,10,20,20,20,30]
production = [30,60,40,60,30,40,40,50,30,70]

df = pd.DataFrame({'investment':np.array(investment),'production':np.array(production)})
print(df)
print(df.corr())

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
字母u是指 unicode

A = [250,360,165,43,92,200,355,290,230,120,73,205,400,320,72,272,94,190,235,139]
B = [35,29,36,60,65,30,10,70,21,55,54,48,20,39,60,20,58,40,27,30]
C = [3,4,7,6,5,5,6,10,9,2,12,5,5,4,8,5,7,8,9,7]
D = [6,10,3,9,6,5,7,10,11,5,4,1,15,7,6,8,3,11,8,5]

df = pd.DataFrame({'取暖费':np.array(A),'温度':np.array(B),'厚度':np.array(C),'年份':np.array(D)})
print(df)
print(df.corr()) # ABCD全部之间的相互和关系
print(df.corr()[u'温度'])# 温度和ABCD之间的关系
print(df[u'取暖费'].corr(df[u'温度']))  #取暖的费和温度之间的关系

在这里插入图片描述
在这里插入图片描述

2 一元线性回归和最小二乘法

2.1 回归问题

在这里插入图片描述

2.2 一元线性回归

在这里插入图片描述
在这里插入图片描述

2.3 最小二乘法

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

2.4 实战 可支配收入与销售量

在这里插入图片描述

X = [522,539,577,613,644,670,695,713,741,769,801,855,842,860,890,920]
Y = [6700,7136,7658,7784,8108,7583,8002,8442,8158,8683,9317,9675,8542,8584,9612,9719]
x = np.array(X).reshape(-1,1)#reshape(行数，列数)常用来更改数据的行列数目,reshape(-1,1)表示（任意行，1列）
y = np.array(Y).reshape(-1,1)# reshape(-1,1)表示（任意行，1列） reshape(1,-1)表示（1行，任意列）

# 相关性 案例三
X = [522,539,577,613,644,670,695,713,741,769,801,855,842,860,890,920]
Y = [6700,7136,7658,7784,8108,7583,8002,8442,8158,8683,9317,9675,8542,8584,9612,9719]
x = np.array(X).reshape(-1,1)#reshape(行数，列数)常用来更改数据的行列数目,reshape(-1,1)表示（任意行，1列）
y = np.array(Y).reshape(-1,1)# reshape(-1,1)表示（任意行，1列） reshape(1,-1)表示（1行，任意列）


model = linear_model.LinearRegression() #线性回归函数
model.fit(x,y)  # fit函数主要用来计算一组数据的特征值,用于训练
print(model.coef_) #b1
print(model.intercept_)# b0

在这里插入图片描述

在这里插入图片描述

2.4.1 为什么要用reshape(-1,1) ？

reshape(1,-1)什么意思？

reshape(行数，列数)常用来更改数据的行列数目
一般可用于numpy的array和ndarray, pandas的dataframe和series(series需要先用series.values把对象转化成ndarray结构)

print(X)
print(x)

在这里插入图片描述

x = np.array(X)

print(X)
print(x)

在这里插入图片描述

X = [522,539,577,613,644,670,695,713,741,769,801,855,842,860,890,920]
print(X)

x = np.array(X)
print(x.shape)
print(x)

x = np.array(X).reshape(-1,1)#reshape(行数，列数)常用来更改数据的行列数目,reshape(-1,1)表示（任意行，1列）
print(x.shape)
print(x)

在这里插入图片描述

2.4.2 本节完整代码

import numpy as np 
import pandas as pd
from sklearn import linear_model


# 相关性 案例一
investment = [20,40,20,30,10,10,20,20,20,30]
production = [30,60,40,60,30,40,40,50,30,70]

df = pd.DataFrame({'investment':np.array(investment),'production':np.array(production)})
print(df)
print(df.corr())


# 相关性 案例二
A = [250,360,165,43,92,200,355,290,230,120,73,205,400,320,72,272,94,190,235,139]
B = [35,29,36,60,65,30,10,70,21,55,54,48,20,39,60,20,58,40,27,30]
C = [3,4,7,6,5,5,6,10,9,2,12,5,5,4,8,5,7,8,9,7]
D = [6,10,3,9,6,5,7,10,11,5,4,1,15,7,6,8,3,11,8,5]

df = pd.DataFrame({'取暖费':np.array(A),'温度':np.array(B),'厚度':np.array(C),'年份':np.array(D)})
print(df)
print(df.corr()) # ABCD全部之间的相互和关系
print(df.corr()[u'温度'])# 温度和ABCD之间的关系
print(df[u'取暖费'].corr(df[u'温度']))  #取暖的费和温度之间的关系


# 相关性 案例三
X = [522,539,577,613,644,670,695,713,741,769,801,855,842,860,890,920]
Y = [6700,7136,7658,7784,8108,7583,8002,8442,8158,8683,9317,9675,8542,8584,9612,9719]
x = np.array(X).reshape(-1,1)#reshape(行数，列数)常用来更改数据的行列数目,reshape(-1,1)表示（任意行，1列）
y = np.array(Y).reshape(-1,1)# reshape(-1,1)表示（任意行，1列） reshape(1,-1)表示（1行，任意列）


model = linear_model.LinearRegression() #线性回归函数
model.fit(x,y)  # fit函数主要用来计算一组数据的特征值,用于训练
print(model.coef_) #b1
print(model.intercept_)# b0

3 多元回归与梯度下降

3.1 简单例子

在这里插入图片描述
在这里插入图片描述

3.2 多元线性回归

在这里插入图片描述
在这里插入图片描述

3.3 梯度下降法

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

3.4 学习率

通常一开始，学习率步长大一点，到后面越来越接近了，学习率调小
在这里插入图片描述

3.5 梯度下降法 求解2.4例子：取暖费

A = [250,360,165,43,92,200,355,290,230,120,73,205,400,320,72,272,94,190,235,139]
B = [35,29,36,60,65,30,10,70,21,55,54,48,20,39,60,20,58,40,27,30]
C = [3,4,7,6,5,5,6,10,9,2,12,5,5,4,8,5,7,8,9,7]
D = [6,10,3,9,6,5,7,10,11,5,4,1,15,7,6,8,3,11,8,5]


## 梯度下降发 求解案例三：取暖费
x = np.array([B,C,D]).T
y = np.array(A).reshape(-1,1)
model = linear_model.LinearRegression()
model.fit(x,y) #训练训练模型

#
print(model.coef_)
print(model.intercept_)

#test
test = np.array([30,5,10]).reshape(1,3)
print('取暖费：',model.predict(test))

在这里插入图片描述

4 回归算法及应用 完整代码

import numpy as np 
import pandas as pd
from sklearn import linear_model


## 相关性 案例一：投入和产出
investment = [20,40,20,30,10,10,20,20,20,30]
production = [30,60,40,60,30,40,40,50,30,70]

df = pd.DataFrame({'investment':np.array(investment),'production':np.array(production)})
print(df)
print(df.corr())


## 相关性 案例二:取暖费
A = [250,360,165,43,92,200,355,290,230,120,73,205,400,320,72,272,94,190,235,139]
B = [35,29,36,60,65,30,10,70,21,55,54,48,20,39,60,20,58,40,27,30]
C = [3,4,7,6,5,5,6,10,9,2,12,5,5,4,8,5,7,8,9,7]
D = [6,10,3,9,6,5,7,10,11,5,4,1,15,7,6,8,3,11,8,5]

df = pd.DataFrame({'取暖费':np.array(A),'温度':np.array(B),'厚度':np.array(C),'年份':np.array(D)})
print(df)
print(df.corr()) # ABCD全部之间的相互和关系
print(df.corr()[u'温度'])# 温度和ABCD之间的关系
print(df[u'取暖费'].corr(df[u'温度']))  #取暖的费和温度之间的关系


## 相关性 案例三：可支配收入与销售量
X = [522,539,577,613,644,670,695,713,741,769,801,855,842,860,890,920]
Y = [6700,7136,7658,7784,8108,7583,8002,8442,8158,8683,9317,9675,8542,8584,9612,9719]
x = np.array(X).reshape(-1,1)#reshape(行数，列数)常用来更改数据的行列数目,reshape(-1,1)表示（任意行，1列）
y = np.array(Y).reshape(-1,1)# reshape(-1,1)表示（任意行，1列） reshape(1,-1)表示（1行，任意列）


model = linear_model.LinearRegression() #线性回归函数
model.fit(x,y)  # fit函数主要用来计算一组数据的特征值,用于训练训练模型
print(model.coef_) #b1
print(model.intercept_)# b0


## 梯度下降发 求解案例三：取暖费
x = np.array([B,C,D]).T
y = np.array(A).reshape(-1,1)
model = linear_model.LinearRegression()
model.fit(x,y) #训练训练模型

#
print(model.coef_)
print(model.intercept_)

#test
test = np.array([30,5,10]).reshape(1,3)
print('取暖费：',model.predict(test))
R-G-B
关注
  • 0
    点赞
  • 踩
  • 1
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 0
    评论
专栏目录
数据回归-保序回归的算法及应用.pdf
06-24
数据回归-保序回归的算法及应用.pdf
reshape的作用
weixin_44274975的博客
04-10 1705
reshape就是矩阵的变换就是行和列相乘的数相等就可以相互变换
机器学习-常用回归算法归纳(全网之最)
热门推荐
WGS.
10-28 1万+
文章目录前言一元线性回归多元线性回归局部加权线性回归多项式回归Lasso回归 & Ridge回归Lasso回归Ridge回归岭回归和lasso回归的区别L1正则 & L2正则弹性网络回归贝叶斯岭回归Huber回归KNNSVMSVM最大间隔支持向量 & 支持向量平面寻找最大间隔SVRCART树随机森林GBDTboosting思想AdaBoost思想提升树 & 梯度提升GBDT面试题整理XGBOOST面试题整理LightGBMXGBoost的缺点LightGBM的优化基于Hist
多元线性回归算法预测房价
weixin_56102526的博客
10-25 3633
多元线性回归算法预测房价一、理论学习（一）背景（二）线性回归检验二、数据清洗（一）数值数据处理（二）非数值型数据转换三、Excel多元线性回归四、多元线性回归模型预测房价（一)基础包与数据导入（二）变量探索（三）分析数据（四）拟合四、sklearn多元线性回归预测房价（一）不进行数据处理（二）对数据进行清洗后再求解五、总结六、参考资料 一、理论学习 学习参考资料“多元线性回归模型预测房价.ipynb”，自己实践重新做一下针对房屋数据集“house_prices.csv”的多元线性回归（基于统计分析库sta
机器学习（一）回归算法
博客
05-15 1579
机器学习回归算法简介
逻辑回归算法模型
帅帅de三叔
04-05 2276
一篇搞定逻辑回归算法模型
遗传算法原理及应用PDF
05-10
遗传算法原理及应用PDF
Logistic回归算法课程实践代码
07-10
Logistic回归算法课程实践代码
线性回归算法Matlab实现
02-24
本文来自于csdn，本文将通过以OCR（光学字符识别）的场景来介绍深度学习在计算机视觉中的应用。1.数据分布，x轴是属性城市人口，y轴是标签值盈利：2.目的：使用一个线性函数去拟合上面这些数据；该线性函数如下只有...
数据回归-支持向量回归算法的研究及应用.pdf
06-26
数据回归-支持向量回归算法的研究及应用.pdf
【Python】理解 Scikit-Learn 中的流水线与直接实例化：以 Logistic 回归为例
2333333
05-17 432
通过本文的比较，我们可以清楚地看到使用 Pipeline 与直接实例化模型的不同。Pipeline 提供了一种简洁、可靠和可维护的方式来处理机器学习工作流，特别是在涉及多个预处理步骤和模型训练时。使用 Pipeline 可以确保数据预处理的一致性，减少代码重复，并简化超参数调优过程。
交互项回归VS分组回归
qq_28424679的博客
05-13 306
然后，我们建立了一个线性回归模型，其中包括树木变量、时间段变量和它们之间的交互项。当你想要研究特定时间段内树木对情绪的影响时，可以使用交互项来捕捉时间变量和树木变量之间的关系。要分析不同时间段的影响，你可以在回归模型中引入时间变量，并根据你的研究问题选择合适的时间段。为什么我在研究树木对居民情绪影响的时候，不同的时间段，树木对情绪的影响会有不同？在这个模型中，tree_variable1的系数表示它们对情绪的影响。的系数表示在早晨时段树木变量对情绪的额外影响。的系数表示在非早晨时段树木变量对情绪的影响。
数据挖掘--
m0_71372455的博客
05-17 983
是一款轻量级的集成开发环境（IDE），广泛用于多种编程语言的开发工作。虽然VS Code本身并不是专门用于数据挖掘的工具，但我们可以借助其强大的插件系统来进行数据挖掘的工作。
【Python】使用scikit-learn做数据挖掘和分析
不积跬步无以至千里，不积小流无以成江海。一个喜欢学习分享的程序员
05-17 1213
Scikit-learn，也被称为sklearn，是一个针对Python编程语言的免费软件机器学习库，是一个功能强大、易用且广泛应用的Python机器学习库，为数据科学家和开发者提供了丰富的工具和资源来进行机器学习任务的开发与实践。 Scikit-learn起源于David Cournapeau的Google Summer of Code项目，名为scikits.learn。 Scikit-learn提供了各种分类、回归和聚类算法，包括支持向量机（SVM）、随机森林、梯度提升、k-均值和DBSCAN等。
RANSAC算法概述
最新发布
点云侠的博客
05-20 429
RANSAC算法概述
智能决策引擎架构设计
猫七姑娘的小博客
05-15 1423
智能决策引擎系统是在大数据支撑下，根据行业专家经验制定规则策略、以及机器学习/深度学习/AI领域建立的模型运算，对当前的业务进行全面的评估，并给出决策结果的一套系统。一套商业决策引擎系统动辄百万而且需要不断加钱定制，大多数企业最终仍会走上自研道路，市场上有些开源规则引擎项目可参考，比较出名的开源规则引擎有drools、urule，都是基于Rete算法，都是基于java代码实现，一些企业会进行二次开发落地生产。而这类引擎功能强大但也比较“笨重”，易用性以及定制性并不够好，对其他语言栈二次开发困难。
使用多实例学习进行乳腺癌组织病理学图像分类和定位
qq_47896523的博客
05-16 1092
乳腺癌是女性最主要的死亡原因，病理学家根据病理切片中观察到的各种视觉特征（例如细胞核的形态特征、细胞核的微观和宏观结构等）做出决定。计算机辅助诊断（CAD）系统可以帮助病理学家自动做出决策。卷积神经网络是最广泛使用的深度学习框架，用于学习图像类别之间的复杂判别特征。多年来，VGG16 [3] 和 ResNet18 [4] 等各种 CNN 架构在海量 ImageNet 数据集上产生了出色的结果。CNN 被用于医学图像以产生最先进的结果。为图像中存在的所有类别提供了定位信息。
2024第二届全国人工智能应用场景创新挑战赛
audyxiao001的博客
05-14 776
本文从竞赛模式、参赛组别和条件、参赛注意事项以及赛程设置四个角度介绍了第二届全国人工智能应用场景创新挑战赛，并给出大赛官网，以便读者了解更多详细信息。
长江商学院隽永参访实在智能，沉浸体验实在Agent
SHIZAIZHINENG的博客
05-16 536
长江隽永是中国首个全方位关注并赋能“她价值”的女性成长平台，此次参访实在智能，旨在深入学习并交流最前沿的Agent技术，引导企业进行科学决策和组织变革，从而帮助企业从个体成长跃升为具有全球视野的数字化领导者。随着数字化技术的不断发展，人工智能、虚拟现实等新技术的的应用已经深入社会的方方面面，并在不断地释放着创新的活力，AI+RPA技术的涌现，外加人力成本的大幅度增加，使得企业对智能数字员工的服务需求越来越大。实在智能创始人、CEO孙林君和实在伙伴一同接待。
机器学习回归算法及应用场景
06-08
常见的机器学习回归算法的应用场景包括： 1. 金融领域：股票价格预测、货币汇率预测等； 2. 物流领域：货物运输时间预测、运费预测等； 3. 房地产领域：房价预测、租金预测等； 4. 医疗领域：疾病进展预测、药效...

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

R-G-B

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值