一 理论基础 线性回归 岭回归 lasso回归 局部加权线性回归 二 python实现 代码 结果 数据 一. 理论基础 1. 线性回归 损失函数: L(w)=12M∑i=1m(y−xiw)2 闭式解: W=(XTX)−1XTY 如果 XTX 没有逆矩阵,则不能用这种方法,可以采用梯度下降等优化方法求近似解。 2. 岭回归 相当于在线性回归的基础上加了正则化。 损失函数: L(w)=