局部加权线性回归 — LWLR
算法介绍
线性回归的一个问题是可能出现欠拟合,因为它求的是具有最小均方误差的无偏估计,可以通过引入一些偏差,从而降低均方误差。
LWLR: 算法中给待预测点附近的每个点都赋予一定的权重,在这段区间上基于最小均方误差来进行普通线性回归。即分区间线性回归,局部拟合来得到全局拟合。
加权函数:
损失函数:
其中k为用户指定的参数。
线性回归的一个问题是可能出现欠拟合,因为它求的是具有最小均方误差的无偏估计,可以通过引入一些偏差,从而降低均方误差。
LWLR: 算法中给待预测点附近的每个点都赋予一定的权重,在这段区间上基于最小均方误差来进行普通线性回归。即分区间线性回归,局部拟合来得到全局拟合。
加权函数:
损失函数:
其中k为用户指定的参数。