一、最小二乘损失函数
二、把最小二乘用线性代数的方式来表示
三、推导出θ的解析解形式
把最小二乘看成是一个函数曲线，极小值（最优解）一定是个驻点，驻点顾名思义
就是可以停驻的点，而图中你可以看出驻点的特点是统统梯度为 0，
梯度：函数在某点上的切线的斜率
于是，我们把
进行求导
本文详细介绍了如何通过最小二乘损失函数来求解多元线性回归的最优解，首先阐述了最小二乘损失函数，然后利用线性代数方法表示并推导出参数θ的解析解形式。接着探讨了如何通过驻点和梯度为0来找到这个解，并进一步讨论了如何判断该函数是否为凸函数，涉及到了黑塞矩阵和正定性的概念。
最低0.47元/天 解锁文章
扫一扫
1007
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
