机器学习中的五种回归模型及其优缺点

本文将会介绍五种常见的回归模型的概念及其优缺点，包括线性回归(Linear Regression), 多项式回归(Ploynomial Regression), 岭回归(Ridge Regression)，Lasso回归和弹性回归网络(ElasticNet Regression).

1.线性回归(Linear Regression)

回归是在建模过程中用于分析变量之间的关系、以及变量是如何影响结果的一种技术。线性回归是指全部由线性变量组成的回归模型。例如，最简单的单变量线性回归(Single Variable Linear Regression)是用来描述单个变量和对应输出结果的关系,可以简单的表示成下面的式子：
$\ Y=a*X+b$
因为在实际的建模过程中遇到的问题往往更加复杂，用单个变量不能满足描述输出便变量的关系，所以需要用到更多的变量来表示与输出之间的关系，也就是多变量线性回归(Multi Variable Linear Regression)。多变量线性回归模型如下：
 Y=a1∗X1+a1∗X2+a3∗X3+.....+