本文深入探讨了监督学习中的线性回归，包括如何用数据拟合直线、调整直线的绝对值技巧和平方技巧，以及线性回归的Error Function。讨论了随机梯度下降法与批量梯度下降法的差异，并介绍了在SKlearn中实现线性回归的方法。同时，文章还提到了高维度线性回归的处理，正则化在模型复杂度控制中的作用，以及线性回归的注意事项和权重求解的数学组方法。
机器学习-监督学习之线性回归
文章目录
线性回归
分类预测的是状态，而回归预测的是值。
举个例子： 房价预测
我们知道小的房子价格为$70000， 大的房子价格为$160000，那么假设价格是线性的，那么中间大小的房子价格为多少？
用数据拟合直线
我们遇到一些点，想要用用这些点来拟合直线，那么想法则是这条线离所有的点都尽可能的接近。
调整直线
调整直线的位置我们通过更改直线的斜率w1，和y轴截距w2来完成。
绝对值技巧Absolute Trick
假设直线为y = w1x +w2 已知一点为(p, q)，我们想让直线靠近点则可以将w2 + 1，则直线向上移动1，同时w1+p 则直线向点的方向转动一个角度，这时直线将会更靠近点，如下图：
但是，我们不会直接取这么大的步长，因为我们希望直线一点一点的靠近点，所以我们设置一个learning rate α \alpha α ,则公式变为 y = ( w 1 + p α ) x + ( w 2 + α ) y=(w~1~+p\alpha)x+(w~2~+\alpha) y=(w 1 +pα)x+(w 2 +
最低0.47元/天 解锁文章
2987
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
