机器学习算法之线性回归(Linear Regression)

Linear Regression(线性回归)

机器学习按算法任务执行学习任务的方式分主要有：有监督学习、半监督学习、无监督学习、增强学习和最近有国外提出的自监督学习等。

其中，分类问题、回归问题、标注问题都属于有监督学习领域的任务。线性回归属于回归问题的一个方面。

线性回归

线性回归的任务是在输入变量与输出变量之间建立一个最高次数为1次的函数映射关系（不能只有0次），这是一种线性的函数关系，在二维坐标系中显示出来为一条直线，设X为输入数据，Y为输出数据，建立形如Y=F(X)的函数关系，即Y=aX1+bX2+…。

根据回归方程中输入变量维度的个数不同，回归方程分为单参数线性回归与多参数线性回归

单参数线性回归

单参数回归方程中输入变量的维度只有1个，如Y=aX1+b

训练数据集格式呈现如下：

(x1,y1)，(x2,y2)，(x3,y3)，(x4,y4)，(x5,y5)，(x6,y6)…

多参数线性回归

多参数回归方程中输入变量的维度有多个，如Y=aX1+bX2+C…

训练数据集呈现如下：

((x11,x12,x13…),y1)，((x21,x22,x23…),y2)，((x31,x32,x33…),y3)，((x41,x42,x43…),y4)，((x51,x52,x53…),y5)…