机器学习——简单线性回归算法（Linear Regression）

最新推荐文章于 2024-03-01 16:42:40 发布
最新推荐文章于 2024-03-01 16:42:40 发布
阅读量797 收藏 6
点赞数 1
分类专栏： 机器学习 文章标签： 机器学习
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/weixin_37580591/article/details/102881795
版权

线性回归

  • 解决回归问题
  • 思想简单
  • 许多强大的非线性模型的基础
  • 结果具有很好的可解释性
  • 蕴含机器学习中的很多重要思想
    在这里插入图片描述
    在上图坐标上，每一个点都表示一个数据， 假设是房产价格的数据。线性回归算法说我们认为房屋的面积和价格成一定的线性关系，也就是说随着房屋面积的增大，价格也会增大，并且增大是线性的。
    在这里插入图片描述
    那么在这种假设下，找到一条直线，希望最大程度的“拟合”样本特征和样本输出标记之间的关系。对于上图来说，样本特征是房屋面积，房屋价格为输出标记。
    区别于分类问题，分类问题坐标轴横纵轴是两个样本特征，而输出标记是用标记点的颜色进行表示的，而回归问题只有横轴表示一个样本特征，纵轴房屋价格就是输出标记。分类问题需要预测是一个具体的数值，这具体数值是在一个连续的空间里的，而不是简单的用不同的颜色代表不同的类别。
    在这里插入图片描述
    如果需要看有两个样本特征的回归问题，那么就需要在三维空间进行观察。样本特征只有一个，称为简单线性回归；样本特征有多个成为多元线性回归。
    在这里插入图片描述

假设我们找到最佳拟合的直线方程：y=ax+b

则对于每一个样本点 x   i x~i x i

根据我们的直线方程，预测值为:

y ^   i = a x   i + b \hat{y}~i = ax~i+ b y^​ i=ax i+b

真值为：$ y~i$

我们希望 y ^   i \hat y~i y^​ i和 y   i y~i y i的差距尽量小，也就是 y   i − y ^   i y~i - \hat{y}~i y i−y^​ i，但是可能存在差值为正为负的情况，无法直接使用减法。 ∣ y   i − y ^   i ∣ |y~i - \hat{y}~i| ∣y i−y^​ i∣ 使用绝对值的形式虽然可以求得预测值与真值的差距，但是 y = a ∣ x ∣ + b y = a|x| + b y=a∣x∣+b并非处处可导，对于后续求取参数a、b的值时不方便。

采用 ( y   i − y ^   i ) 2 (y~i - \hat{y}~i)^2 (y i−y^​ i)2 的形式来衡量预测值与真值之间的差距，
所以我们考虑所有的样本： ∑ i = 1 m ( y   i − y ^   i ) 2 \displaystyle \sum^{m}_{i=1}(y~i - \hat{y}~i)^2 i=1∑m​(y i−y^​ i)2

所以我们的目标是使 ∑ i = 1 m ( y   i − y ^   i ) 2 \displaystyle \sum^{m}_{i=1}(y~i - \hat{y}~i)^2 i=1∑m​(y i−

最低0.47元/天 解锁文章
Liuyt_61
关注
  • 1
    点赞
  • 踩
  • 6
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
机器学习之线性回归算法（超详细）
weixin_49329177的博客
05-09 5320
机器学习中的线性回归方程算法是一种基础的预测性建模技术，它研究的是因变量（目标变量）与自变量（特征变量）之间的关系。线性回归试图找到一条最佳的直线（在多维空间中可能是超平面），这条直线能够尽可能地拟合数据点，从而能够预测新的数据点的目标值。在接下来的内容中，我们将详细介绍线性回归方程算法的原理、实现步骤以及其在实践中的应用，并如何去优化对应的参数找到问题的最优解。通过对这些内容的了解，读者将能够掌握线性回归方程算法的基本知识和技能，为进一步学习和应用机器学习算法打下坚实的基础。
sklearn-LinearRegression(线性回归)
m0_68828538的博客
04-09 4229
LinearRegression(线性回归) import numpy as np from sklearn.linear_model import LinearRegression #是二维数组所以用两个[],传入两个特征。 x=np.array([[150,70],[160,80],[170,90],[180,98]]) # y = 1 * x_0 + 2 * x_1 + 3 #公式代码化，正常y为数值，训练模型得出系数以及偏差值，从而进行预测 y=np.dot
机器学习——线性回归(Linear Regression)
1
10-05 6433
机器学习学习笔记——2
机器学习算法总结—— 线性回归（Linear Regression）
Harrytsz的博客
10-22 6442
前言 本系列为机器学习算法的总结和归纳，目的为了清晰阐述算法原理，同时附带上手代码实例，便于理解。 目录 k近邻（KNN） 决策树 线性回归 逻辑斯蒂回归 朴素贝叶斯 支持向量机（SVM） 组合算法（Ensemble Method） K-Means 本章为线性回归，内容包括模型介绍及代码实现（包括自主实现和sklearn案例）。 一、算法简介 1.1 什么是回归分析 回归分析是一种预测性的建模技术，它研究的是因变量（目标）和自变量（预测器）之间的关系。这种技术通常用于预测分析，时间序列模型以及发现变量之间的
机器学习之线性回归（Linear Regression）算法
热门推荐
年少的勇气已经用完，剩下的就是三思而后行
06-02 1万+
回归分析是一种预测性的建模技术，它研究的是因变量（目标）和自变量（预测器）之间的关系。这种技术通常用于预测分析，时间序列模型以及发现变量之间的因果关系。通常使用曲线/线来拟合数据点，目标是使曲线到数据点的距离差异最小 。线性回归是回归问题中的一种，线性回归假设目标值与特征之间线性相关，即满足一个多元一次方程。通过构建损失函数，来求解损失函数最小时的参数w和b。通长我们可以表达成如下公式：y^\hat{y}y^​ 为预测值，自变量x和因变量y是已知的，而我们想实现的是预测新增一个x，其对应的y是多少。因此，为
机器学习之线性回归算法Linear Regression（python代码实现）
u012254599的博客
03-01 440
（Linear Regression）是一种非常简单、用处非常广泛、含义也非常容易理解的一类经典的算法，非常合适作为机器学习的入门算法。线性回归就是出一个线性组合关系的函数。要找一条直线，并且让这条直线尽可能地拟合所有数据点。即：试图找到一条直线，使所有样本到直线上的欧式距离之和最小。
3.机器学习-十大算法之一线性回归算法(LinearRegression)原理讲解
weixin_50804299的博客
02-27 1万+
线性是指一种关系或者过程，其特点是当输入发生变化时，输出会以同样的比例变化。简单来说，线性是指两个变量之间存在着直接的比例关系。而非线性则是指变量之间没有直接的比例关系，输入的变化不会导致输出的同比例变化。在线性代数中，线性无关是指一组向量中没有向量可以用其他向量的线性组合来表示，反之则称为线性相关。 在数学中，线性关系可以用直线来表示，而非线性关系则无法用直线来描述。这是因为非线性关系通常具有曲线或者其他复杂的形状。在代数学和数学分析学中，如果一种运算同时满足特定的“加性”和“齐性”，则称这种运算是线性
机器学习之线性回归算法 Linear Regression
qq_56618414的博客
03-25 2283
回归分析（Regression Analysis）是统计学的数据分析方法，目的在于了解两个或多个变量间是否相关、相关方向与强度，并建立数学模型以便观察特定变量来预测其它变量的变化情况。 线性回归算法（Linear Regression）的建模过程就是使用数据点来寻找最佳拟合线。 例如： y = k x +b; 是一个线性回归算法 其中分为二种回归： 1.一元的回归方程 2.多元的回归方程 3.线性回归的算法流程： 1）初...
机器学习-线性回归（Linear Regression）
数据客
12-05 1831
1.什么是线性回归 线性：两个变量之间的关系是一次函数关系的——图象是直线，叫做线性。 非线性：两个变量之间的关系不是一次函数关系的——图象不是直线，叫做非线性。 回归：人们在测量事物的时候因为客观条件所限，求得的都是测量值，而不是事物真实的值，为了能够得到真实值，无限次的进行测量，最后通过这些测量数据计算回归到真实值，这就是回归的由来。 2. 能够解决什么样的问题 对大量的观测数据进行处理，从而得到比较符合事物内部规律的数学表达式。也就是说寻找到数据与数据之间的规律所在，从而就可以模拟出结果，也就
机器学习——多元线性回归算法预测房价
羚漆的博客
11-01 1399
这是目录一、Excel构造多元线性回归二、Sklearn库重做多元线性回归三、总结参考文献 一、Excel构造多元线性回归 多元线性回归简介 在回归分析中，如果有两个或两个以上的自变量，就称为多元回归。事实上，一种现象常常是与多个因素相联系的，由多个自变量的最优组合共同来预测或估计因变量，比只用一个自变量进行预测或估计更有效，更符合实际。因此多元线性回归比一元线性回归的实用意义更大。 “garbage in garbage out”（简称GIGO），是计算机术语常用的俚语，意思是如果你输入错误的数据，那么
机器学习线性回归算法(Python代码版)
11-11
线性回归是机器学习领域中最基础且重要的算法之一，它主要用来预测连续数值型的目标变量。在Python中，实现线性回归有许多库可以使用，如Numpy、Scipy以及专门用于数据分析和建模的Scikit-learn库。下面将详细讨论...
机器学习之线性回归算法
01-06
**线性回归（Linear Regression）**是一种通过属性的线性组合来进行预测的线性模型，其目的是找到一条直线或者一个平面或者更高维的超平面，使得预测值与真实值之间的误差最小化。 2.特点 优点：结果具有很好的可...
Linear Regression jupyter.zip_hearingvfw_机器学习_线性回归
07-14
Python的Scikit-learn库是数据科学和机器学习领域的首选工具之一，它提供了简洁、高效的接口来实现各种机器学习算法，包括线性回归。在Sklearn中，我们可以使用`LinearRegression`类来构建和训练模型。以下是一般的...
机器学习算法之使用Python实现LinearRegression算法.zip
最新发布
04-20
线性回归是机器学习中最基础且重要的算法之一，它用于建立因变量与一个或多个自变量之间的线性关系。在本教程中，我们将探讨如何使用Python的Scikit-Learn库来实现线性回归模型。线性回归算法适用于预测连续数值型...
机器学习——线性回归算法的衡量标准及评价：MSE、RMSE、MAE、R Square
Liuyt_61的博客
11-03 2841
对于回归算法的衡量 线性回归算法的目标是找到参数a和b，使得 ∑i=1m(yi train−axi train−b)2\displaystyle \sum^{m}_{i=1}(y^i~train - ax^i~train - b)^2i=1∑m​(yi train−axi train−b)2 尽可能小。 y^i test\hat y^i~testy...
数据挖掘顶级会议与期刊分析
Liuyt_61的博客
11-17 2170
Journals ACM TKDD http://tkdd.cs.uiuc.edu/ DMKD http://www.springerlink.com/content/1573-756X/?p=859c3e83455d41679ef1be783e923d1d&pi=0 IEEE TKDE http://www.ieee.org/organizations/pubs/transactions...
机器学习——线性回归模型的可解释性
Liuyt_61的博客
11-03 1281
我们使用scikit learn中的波士顿房产数据举例 import numpy as np from sklearn import datasets #加载sklearn-datasets数据集中的波士顿房产数据 boston = datasets.load_boston() X = boston.data #所有特征数据 y = boston.target #输出标记 #绘制二维的散点...
机器学习——最基础的分类算法-k近邻算法 kNN简介及Jupyter基础实现及Python实现
Liuyt_61的博客
11-02 1176
最基础的分类算法-k近邻算法 kNN简介及Jupyter基础实现及Python实现 k-Nearest Neighbors简介 对于该图来说，x轴对应的是肿瘤的大小，y轴对应的是时间，蓝色样本表示恶性肿瘤，红色样本表示良性肿瘤，我们先假设k=3，这个k先不考虑怎么得到，先假设这个k是通过程序员经验得到。 假设此时来了一个新的样本绿色，我们需要预测该样本的数据是良性还是恶性肿瘤。我们从训练样本中...
机器学习笔记：回归算法与线性回归深入解析
"回归算法和线性回归在机器学习中的应用" 回归算法是统计学和机器学习中的核心方法，主要用于连续性数据的预测。在监督学习中，算法分为分类和回归两大类。分类算法适用于离散型数据，而回归算法则针对连续型数据，...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值