线性回归以及梯度下降

本文详细介绍了线性回归的概念,包括一元和多元线性回归,并通过实例展示了线性回归的表示。接着,文章深入探讨了损失函数,特别是最小二乘法和梯度下降法,阐述了如何通过梯度下降法找到损失函数的最优解。最后,文章提到了均方误差在损失函数中的角色,并给出了线性回归和梯度下降在实际应用中的案例及其在sklearn库中的API使用。
摘要由CSDN通过智能技术生成

线性回归以及梯度下降

一.什么是线性回归

首先应该明确:线性回归是用来解决回归问题的。应用与连续型数据。

比如说:

  • 房价的预测:根据现在手头的房价数据,我们大致就可以推出未来房价的大体走势
  • 投放广告的数量:一般来说,投放广告的数量和你挣了多少钱,也是有一定的线性关系的

线性回归就是利用数理统计中回归分析,来确定两种或两种以上变量间相互依赖的定量关系的一种统计分析方法。

根据涉及到的变量的数量,我们大致可以把线性回归算法分为如下两个类别:

  • 一元线性回归:涉及到的变量只有一个
  • 多元线性回归:涉及到的变量为两个或两个以上

二.线性回归的表示

最简单的线性回归就是二维平面当中的。那么最简单的就是直线型,这个方程,我们中学的时候就学过:

​ y = kx + b

我们举一个例子:我们都知道,在单位房价大体不变的情况下,住房面积越大,那么这个房子的价格就越贵。现在我们有如下数据:

在这里插入图片描述

那么,我们利用Matplotlib 就可以画出这个数据的分布情况:相关代码如下:

import matplotlib.pyplot as plt
plt.figure(figsize=(20,8),dpi = 80)

_x = [60,72,75,80,83,87,90,93] # 房屋面积
_y = [126,151.2,157.5,168,174.3,180,192.2,194] # 房价

plt.scatter(_x,_y)

plt.show()

画出的图如下:

在这里插入图片描述

可以大体看出来,横轴的住房面积,还有纵轴的房价大致符合y = kx+b的关系。像这种的,我们称之为:线性回归关系

线性回归关系是一种通过属性间的线性组合来进行预测的关系(函数),还可以往多维度推广。其表示如下:<

  • 0
    点赞
  • 3
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值