那啥,之前笔记里这部分是略过的。这里整理一下吧。有兴趣的可以对照看看和你推倒的过程一样不。
我们先回顾一下,我们定义观测结果y和预测结果y'之间的差别为Rss:
设若参数的矩阵为
,则 那么
按照我们的定义,这个Rss的意思是y和y'之间的差,那么当Rss无限趋近于0的时候,则y≈y',即我们求得的预测结果就等于实际结果。
于是,令Rss等于某一极小值
对参数
求导,得: 展开,得
进而就可以得到
于是我们就得到正规方程了。
再讲一个推导方式:
我们可以用矩阵乘法:
两边同时乘以
然后再乘以
就得到
……不过这第二种方法是在知道了正规方程是什么以后再推导的。虽然看起来很快,然而并没有告诉你为什么。
转载:https://zhuanlan.zhihu.com/p/22474562