经验似然课程笔记一:似然原理

1.1似然原理

经验似然是一种非参数的似然,推断遵循着以下原则:

既然当前的样本观测值被观测到,那么样本取为这组观测值的可能性应该比较大。那么使得这组观测值被观测到的可能性较大的那些参数值，更接近真实值。

保守起见,似然方法选择使得这组观测值被观测到的可能性达到最大的那个参数值作为参数估计，这就是极大似然估计的思想。

这里，样本取为当前观测值的可能性作为参数的函数时，通常称作似然函数。

根据似然原则，似然函数的作用是用来区分在给定样本下，两个不同的参数值哪一个更接近真实值。

似然函数本身的绝对数值是没有意义的,乘以一个正常数仍可作为似然函数。

---

似然方法推断的基础就是似然函数，需要明确它的定义:

似然函数定义1 假设$X_1,..,X_n\stackrel{iid}{\sim }F(x)$,如果我们把整个分布函数$F$当做参数,那么根据前面的讨论,似然函数应该定义为
L 1 ( F ) = ∏ i = 1 n { F ( X i + ) − F ( X i − ) } L_1(F)=\mathop{\prod}\limits_{i=1}^n\{F(X_i+)-F(X_i-)\} L1​(F)=i=1∏n​{ F(Xi​+)−F(Xi​−)}
其中 F