回归问题

回归

回归（regression） 是监督学习的另一个重要问题。

回归用于预测输入变量（自变量） 和输出变量（因变量） 之间的关系， 特别是当输入变量的值发生变化时， 输出变量的值随之发生的变化。

回归模型正是表示从输入变量到输出变量之间映射的函数。

回归问题的学习等价于函数拟合： 选择一条函数曲线使其很好地拟合已知数据且很好地预测未知数据（参照1.4.2节） 。

回归的过程

回归问题的分类

回归问题按照输入变量的个数， 分为一元回归和多元回归；
按照输入变量和输出变量之间关系的类型即模型的类型， 分为线性回归和
非线性回归。

回归学习最常用的损失函数是平方损失函数，
在此情况下， 回归问题可以由著名的最小二乘法（least squares） 求解。

回归问题的应用

许多领域的任务都可以形式化为回归问题，

比如， 回归可以用于商务领域， 作