回归分析(Regression Analysis)是统计学的数据分析方法,目的在于了解两个或多个变量间是否相关、相关方向与强度,并建立数学模型以便观察特定变量来预测其它变量的变化情况。
线性回归算法(Linear Regression)的建模过程就是使用数据点来寻找最佳拟合线。
例如:
y = k x +b;
是一个线性回归算法
其中分为二种回归:
1.一元的回归方程
2.多元的回归方程
-
- 3.线性回归的算法流程:
- 1)初始化权重w和截距b来构建最初的模型。
- 2)使用这个模型来计算代价函数的代价值(即误差之和)
- 3)对代价函数求偏导值
- 想要让代价值最小化,需要使代价函数的导数值为0,并求得此时的w值。
- 4)运用偏导值和学习率更新权重
- 3.线性回归的算法流程: