本文详细介绍了线性回归的概念，通过最小二乘法建立模型，并探讨了如何使用梯度下降法求解。此外，还讨论了线性回归在分类问题中的应用，特别是与logistic回归的关系，利用Sigmoid函数将连续预测转换为概率。
概念
线性回归是利用数理统计中回归分析，来确定两种或两种以上变量间相互依赖的定量关系的一种统计分析方法。
一个简单例子：银行通过申请人的工资和年龄来评估贷款人可贷款的额度，年龄X1和工资X2是两个特征，我们希望通过X1、X2两个特征来判断贷款额度y。
| 工资 | 年龄 | 额度 |
|---|---|---|
| 4000 | 25 | 20000 |
| 8000 | 30 | 70000 |
| 5000 | 28 | 35000 |
| 7500 | 33 | 50000 |
| 12000 | 40 | 85000 |
最小二乘法
上面银行贷款的例子，通过已有X1、X2和y的取值确定拟合平面 h θ = θ 0 + θ 1 X 1 + θ 2 X 2 h_{\theta}=\theta_{0}+\theta_{1}X_{1}+\theta_{2}X_{2} hθ=θ0+θ1X
最低0.47元/天 解锁文章
扫一扫
136
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
