加权极大似然估计是相对于非加权的极大似然估计而言。
传统的极大似然估计思想非常简单,也就是我们既然观察到了这个现象,说明出现概率很大,然后通过建立需要估计参数和现象之间的概率模型,使得出现观察到的现象的概率最大化。
传统的极大似然估计对所有数据都是平等的,权值是一样的,直接把每个观察值的概率乘起来。
而加权极大似然估计的思想也很简单,就是我们观察到的数据往往有一些异常值,或者部分数据受到一些其他分布的影响,那么就考虑给这些数据一些较低的权值。
虽然如此,但是如何确定这个权值并非非常容易,需要根据特定的场合进行特定选择,最好是,既能够很好的降低异常值或者背景干扰导致的bias,还要避免这个权重本身导致bias。
一些可选策略:
1,部分数据为1,部分数据直接为0。
2,根据经验分布来确定一个连续的权重分布。
3,根据观察值对参数预估,再确定自适应的权重。
参考文献
Ahmed E S, Volodin A I, Hussein A A. Robust weighted likelihood estimation of exponential parameters[J]. IEEE Transactions on reliability, 2005, 54(3): 389-395.