多元回归求解 机器学习_机器学习——算法第一课：回归分析

关键词：线性回归 逻辑回归 回归模型评估

阅读时间：15 分钟

一、回归分析的定义与分类

回归分析的定义：

利用数据统计原理，对大量统计数据进行数学处理，并确定因变量与某些自变量的相关关系，建立一个相关性较好的回归方程(函数表达式)，并加以外推，用于预测今后的因变量的变化的分析方法。

回归分析的分类：

根据自变量的个数来分类：一元回归分析，多元回归分析；

根据因变量的个数来分类：简单回归分析，多重回归分析；

根据因变量和自变量的函数表达式来分类：线性回归分析，非线性回归分析。

回归分析适用场景：

确定变量之间是否存在相关关系，若存在，则找出数学表达式；

根据一个或几个变量的值，预测或控制另一个或几个变量的值，且估计这种控制或预测可以达到何种精确度。

回归分析步骤：

根据自变量与因变量的现有数据以及关系，初步设定回归方程

求出合理的回归系数

进行相关性检验，确定相关系数

在符合相关性要求后，即可根据已得的回归方程与具体条件相结合，来确定事物的未来状况，并计算预测值的置信区间

通常情况下，线性回归分析是回归分析法中最基本的方法。当遇到非线性回归分析时，可以借助数学手段将其化为线性回归。因此，主要研究线性回归问题，一点线性回归问题得到解决，非线性回归也就迎刃而解了。

二、线性回归

1、一元线性回归</