回归分析
回归分析是通过建立模型来研究变量之间相互关系的密切程度,结构状态及进行模型预测的一种有效工具。
常用的回归模型:
回归模型名称 | 适用条件 | 算法描述 |
---|---|---|
线性回归 | 因变量与自变量是线性关系 | 对一个或多个自变量与因变量之间的线性关系进行建模,用最小二乘法求解模型系数 |
非线性回归 | 因变量与自变量之间不都是线性关系 | 能转化为线性关系用线性回归的思想求解,不能的时候,用非线性最小二乘法求解 |
Logistic回归 | 因变量一般有1和0两种取值 | 是广义线性回归模型的特例,利用函数将因变量的取值范围控制在0和1之间,表示取值为1的概率 |
岭回归 | 参与建模的自变量之间具有多重共线性 | 是一种改进最小二乘估计的方法 |
主成分回归 | 参与建模的自变量之间具有多重共线性 | 根据主成分分析思想提出的是对最小二乘法的一种改进,是参数估计的一种有偏估计,可以消除自变量之间的多重共线性 |