weixin_44757742的博客

原创 2020-02-14

线性回归(Linear Regression,LR)对于m个样本，用参数进行估计，记为定义损失函数目标为最小化损失函数，可使用梯度下降法或者最小二乘法。梯度下降法求相对于的梯度，这里上标i表示第i个样本，下标j表示样本的第j个特征。在梯度的负方向上更新，即最小二乘法将样本整体表示为矩阵X，结果表示为向量，则参数可由下式求得但要求X为列满秩（列满秩要求行数大于列数，即样...