【线性回归】线性代数角度解释最小二乘法

第一：背景

 问题：广告和销量之间的关系？

 数据集：特征包含三块：电视广告xt，网络广告xm，楼宇广告xf，因变量销量记作y。

         
           数据集样本数为m。

第二：拟合线性回归模型

          y’ = β0  +  β1 * xt  +  β2 * xm  +  β3 * xf  

          写成矩阵形式：Xβ=y‘

          解释：X就是形状m*4的矩阵【因为加入了一个β0这截距项，所以第一是m个1】，

                     β是一个包含四个元素的向量【β0，β1，β2，β3】

                     y'是一个包含m个元素的向量 【y1，y2，，，，，y3】

第三：几何分析

1、X是构成的列空间COL(X)属于R m 子空间。且COL(X)的秩为4。