局部线性回归

线性回归就是对整个数据集进行训练，就比如说拟合成一条直线，参数选择所依据的标准就是

而局部线性回归是对要预测的点的左右区域进行拟合，也就是根据它的周围情况拟合成一条直线，而不是整个数据集。它是非参数学习方法，是因为不能确定参数的值，而是对于某个预测，求得一组参数。参数随着要预测的x变化而变化。它的Loss function是

这里的w(i)

如果|x(i)-x|约等于0，这此时w(i)约等于1，如果|x(i)-x|很大，w(i)约等于0。也就是说，

对于离预测样本数据较近的点权值较大，离预测样本数据较远的点权值较小。

参考资料：斯坦福机器学习讲义note1

大神博客：http://blog.csdn.net/acdreamers/article/details/44662753