机器学习之路12

线性回归

当要预测的目标值是连续型的数据时，这一问题被称为回归问题。线性回归是利用回归方程对一个或多个自变量（特征值）和因变量（目标值）之间的关系进行建模的一种分析方式。

只有一个自变量的情况成为单变量回归，多于一个自变量的情况叫多元回归。

通用公式：

那该怎么理解呢？我们来看几个小例子

 线性回归的特征与目标之间的关系分析：

线性回归中的线性模型有两种，一是线性关系，二是非线性关系。线性模型是说，要么自变量是一次方（如：y = w1x1+w2x2+...+wnxn+b），要么参数是一次方(如：y = w1x1+w2x2^2 + w3x3^3+b)。

线性回归的损失和优化原理：

那么回到我们之前的问题，假如刚才的房价的真是数据之间存在这样的关系：