机器学习-学习笔记3.1-局部加权回归

局部加权回归(LWR)通过引入加权因子改善线性回归的欠拟合问题。它考虑每个样本对参数估计的影响不同,特别是在目标变量附近的样本影响更大。当预测值与实际值相差较大时,LWR会选择靠近预测点的样本构建回归方程,从而提高拟合度。通过加入权重指数函数,使得远离预测点的样本权重趋近于0,仅关注局部样本进行回归,达到更好的预测效果。
摘要由CSDN通过智能技术生成

局部加权紧接着上面的线性回归中参数求解来继续讲吧。还是以上面的房屋价格的预测,它的中心思想是在对参数进行求解的过程中,每个样本对当前参数值的影响是有不一样的权重的。比如上节中我们的回归方程为(这个地方用矩阵的方法来表示Ɵ表示参数,i表示第i个样本,h为在Ɵ参数下的预测值):

 

我们的目标是让

 

最小,然后求出来Ɵ,再代入h中就可以得到回归方程了。

 

评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值