机器学习之——线性回归模型及其扩展

本文介绍了线性回归的基本概念,包括普通线性回归的原理和限制,如共线性问题。接着探讨了偏最小二乘法(PLS)和岭回归作为解决方案,PLS关注预测变量与响应变量的协方差,而岭回归通过惩罚项控制参数估计的规模。最后,文章提到了Lasso回归,它不仅可以正则化,还能进行变量选择,弹性网模型则结合了岭回归和Lasso的优点。
摘要由CSDN通过智能技术生成

可以直接或间接的写成如下形式的模型,我们统称为线性回归模型

其中:表示数值型相应变量对于第i 个观测值的取值,代表截距项,代表第j个变量的系数,代表第j个预测变量对于第i个观测值的取值,代表模型无法解释道额随机误差。

一、线性回归

普通线性回归的目标是求出能最小化响应变量观测值与预测值之间的误差平方和(SSE)

其中:

  • 1
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值