一个理论的提出,源于一个简单的目的。即当前面临的情况与现有理论所要求的条件有差异,现有理论无法解决当前问题,那么需要对现有理论做出适当改进,并加上这之后的一系列改进,就形成了一个理论体系。(啰嗦这么多,其实就一个意思,知道这个理论是基于什么情况下产生的其实很重要!)
加权最小二乘法就是最小二乘法演变来的。
问题出现:
最小二乘法是一种求取最优解的方法,但是有许多假定条件,比如规定了同方差,也就是说每一个参数在求解过程中都应该具有相同的权重。但实际上,参数对于最终结果的贡献在很多时候是不一样的,即参数权重产生了差异,也就是出现了异方差。
已知:
那么我现在知道最小二乘怎么求最优解,也知道了我面临的情况是异方差问题。
目标:
那么将异方差问题转化为同方差问题,再利用最小二乘求解,就可以解决当前问题。
办法:(这里就会有很多大牛通过各种各样的方法来实现我们的目标,解决我们的问题)。
两个不错的链接: