简单线性回归截距假设检验_超简单的线性回归

前言

3b8345f68ea2ffecd8e9a901ec485477.png

​ 这是我们熟悉的二元一次方程,其中 参数可以理解为直线的斜率(Slope),b 参数为直线的偏置(Bias),显然 y 的值随着 x 变化而线性变化,我们只需要知道直线上两个点的坐标即可求解出 w 和 b 的值,这个叫做解析解。

​当想通过一个直线来拟合一群点的时候,这两个点的选择就得看运气了,选不好就像上图蓝线那样,并不能较好的拟合数据集。

​ 推广到多维空间就是

(式1)

我们希望找到一组 w 和 b 使得f(x)的轨迹尽量拟合所有的数据点,这个解叫做数值解。那怎样判断拟合的效果呢,就是根据所有点的预测值与实际值的差的平方和的平均值,即均方差MSE(Mean Squared Error)来衡量的。

(式2)

所以目标就是求得一组 w 和 b 使得总误差最小

(式3)

实现思路

​ 我们知道求极值可以通过求导数的方式实现,导数为0的点一定是极值点,同时我们知道当导数大于0时,函数是递增的,导数小于0时,函数是递减的,可以利用这一特性来更新 w 和 b 的值。

(式4)

(式5)

​ 这就巧妙的实现了对 w 和 b 的更新,其中系数为学习率。所以问题就转化为对均方误差进行求导,应用链式求导法则可知

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值