最新回归算法理解、实现及应用（1）线性回归

一、回归模型间的关系，回归是统计学中最有力的算法之一：

1.1 回归：(regression)：用已知样本对未知公式参数的估计，给出一个点集D，用一个函数去拟合这个点集，并且使得点集与拟合函数间的误差最小，如果这个函数曲线是一条直线，那就被称为线性回归，如果曲线是一条二次曲线，就被称为二次回归。

1.2.线性回归(linear regression)：回归的一种，回归函数是一次函数，例如：f(x,y,z,…)=ax+by+cz+…+…其中x，y，z是训练样本集中样本的各个特征(feature)，a，b，c是模型的未知参数。

1.3.逻辑回归(logistic regression)：将result归一化到[0, 1]区间，即使用一个逻辑方程将线性回归归一化。

---

二 、线性回归（linear regression）

线性回归中的函数并不是指线性函数，属于监督学习。