回归分析(regression analysis)是确定两种或两种以上变量间相互依赖的定量关系(函数关系)的一种统计分析方法。(回归问题的目标值是连续型的,分类问题的目标值是离散型的)
回归有倒推的含义,就是从大量统计数据中寻找特征值与目标值之间的函数关系。(因为存在误差(损失函数)所以一般需要迭代)
线性关系:二维---->直线;三维---->平面。
线性回归:通过一个或者多个自变量(特征)与因变量(目标值)之间进行建模的回归分析。其中特点为一个或多个称为回归系数的模型参数的线性组合。
一元线性回归:涉及到的变量(特征)只有一个
多元线性回归:涉及到的变量(特征)有两个或两个以上