最小二乘公式推导（步骤详细，一看就会）

上网找了关于最小二乘公式的推导，发现有的文章写的过于简略，有的推导虽然步骤详细但是仍存在一些问题，比如推导过程中出现的矩阵、向量的命名不按常理出牌（比如把元素都是观测量x的矩阵叫做A等等），亦或是行向量、列向量分不清楚，写到后面自己都忘了对谁求偏导了。。。

古人曾云：“百闻之不如目见之，目见之不如足践之。”在综合看过几篇文章的推导过程之后，我自己写了一篇关于最小二乘公式的推导过程，有最基础的关于一次函数形式的结论推导，也有一般情况下矩阵形式的最小二乘公式推导。整个推导过程没有跳步，能详细说明的我都进行了描述，且矩阵、向量的命名均符合常识，不至于看着看着就思维混乱了。基本上这篇文章只要有基础的高等数学和线性代数知识就能看懂。