【机器学习（一）】线性回归

1.线性回归原理

1.1简单线性回归

当一个变量会随着另一个变量的变化而变化，比如随着工作年数的增长，你的工资的变化情况，这之间就存在一种近似的线性关系。
简单的线性回归模型如下：
$$y=\theta x+b$$
其中x表示特征值（如工作年份），θ表示权重，b表示为偏置量，y表示标签（如工资）

上述的模型也可以看做是有两个特征值的模型，其中$x_0$始终为1，如下所示，
$$\theta =({\theta }_0,{\theta }_1)$$

$$X=\left(\begin{array}{c}{x}_0\\ x_1\end{array}\right)$$

则上述回归模型可以写成
$$y=\theta X={\theta }_0{x}_0+{\theta }_1{x}_1$$

1.2多元线性回归

当一个变量会随着多个变量的变化而变化，如房子的价格会因为房子的面积、房子的房间数等因素而影响，如果要给他们之间建立相应的关系，则需要使用多元线性回归。

多元线性回归模型如下：
$$\theta =({\theta }_0,{\theta }_1....{\theta }_n)$$

$$X=\left(\begin{array}{c}{x}_0\\ x_1\\ .\\ .\\ .\\ x_n\end{array}\right)$$

$$y=\theta X={\theta }_{0}x$$