线性回归,正规方程和梯度下降,如何解决过拟合现象

本文探讨了线性回归在预测连续值问题中的应用,如房价预测和销售额预测。介绍了损失函数、正规方程和梯度下降两种求解最小损失的方法。通过sklearn库比较了正规方程(LinearRegression)和梯度下降(SGDRegressor)的优缺点,并指出两者在解决过拟合问题上的局限性。为应对过拟合,文章提到了特征选择和正则化,特别是L2正则化的Ridge回归模型,强调了正则化力度参数alpha的重要作用。
摘要由CSDN通过智能技术生成

回归问题该如何判定?目标值是连续的
分类问题是离散的,或0或1或2。。。
预测分类问题和预测回归问题思想完全不一样
回归算法:可以做些什么?
比如房价预测,销售额预测,贷款额度的预测。。。。
例子:
房价的预测
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

损失函数

在这里插入图片描述
例如y = wx+b
那么如何去求模型当前最小的w使得损失最小(目的是找到最小损失对应的值)

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值