线性回归

一、回归

 

二、线性回归

1、一元线性回归

y=wx+b,其中x是自变量,y是因变量,w是斜率,b是截距。

将上面的式子写成矩阵形式,如下所示:

y=X^{T}w,  令x^{_{0}}=1

其中,X=\left [ _{x_{1}}^{x_{0}} \right ]w=\left [ _{w}^{b} \right ]

2、多元线性回归

多元线性方程为:

y=w_{0}+w^{_{1}}x_{1}+w^{_{2}}x_{2}+...+w^{_{n}}x_{n}

将其写成矩阵的形式为:

y=X^{T}w,  令x^{_{0}}=1

其中,X^{T}=\begin{bmatrix} x_{0}^{1}& x_{1}^{1}& ...& x_{n}^{1}\\ x_{0}^{2}& x_{1}^{2}& ...& x_{n}^{2}\\ ...& ...& ...& ... \\ x_{0}^{n}& x_{1}^{n}& ...& x_{3}^{n} \end{bmatrix}w=\begin{bmatrix} w_{0}\\ w_{1}\\ ...\\ w_{n} \end{bmatrix}

3、线性回归的损失函数

损失函数是一个衡量真实值和预测值之间的差距的函数,此处使用平方和误差(残差平方和损失函数)损失函数,残差平方和损失函数如下所示:

                                                    SSE=\sum_{i=1}^{m}\left (y_{i} - \widehat{y_{i}} \right )^{2} =\sum_{i=1}^{m}\left (y_{i} - x_{i}^{T}\right )^{2}

三、局部加强线性回归

 

四、岭回归

 

五、lasso回归

 

六、向前回归

 

二、计算流程分析

 

三、测试测试

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值