线性回归公式推导

线性回归

重新推导了一下线性回归的公式：
最小二乘参数估计，梯度下降：

正规方程：

因为实际情况中数据的维度都是多维所以使用正规方程多一些。
在使用正规方程过程中的梯度下降需要用到矩阵的求导，整理了三个比较常用的矩阵求导公式，应付上边的公式足够了。