经验似然课程笔记七:GEE参数和经验似然

GEE参数和经验似然

0.引言

前面的文章我们都是围绕着均值参数$\mu$的截面经验似然展开的,但经验似然不仅能用于对均值参数进行推断,也能用于更一般参数进行推断.

这篇文章就开始介绍由一般估计方程(GEE)所定义的参数(简称GEE参数)。

1.GEE模型

GEE模型
假设$X,X_1,..,X_n\stackrel{\mathrm{i}.\mathrm{i}.\mathrm{d}}{\sim }F$ 是来自 ${\mathbf{R}}^q$的随机变量,其中分布$F$未知. $p$维参数 $\theta$ 由以下方程唯一确定
E { g ( X , θ ) } = 0 E\{g(X,\theta)\}=0 E{ g(X,θ)}=0其中$g=(g_1,g_2,..,g_r{)}^T$，且这里的期望是关于$F$的期望.
这就是GEE模型.

注:

• (1) 方程 E { g ( X , θ ) } = 0 E\{g(X,\theta)\}=0 E{ g(X,θ)}=0被称作 $估计方程$，函数$g$被称作$估计函数$。
• (2)参数 $\theta$ 被称作由上述估计方程所定义的参数,简称$GEE参数$.
• (3)$估计方程的个数r\ge 参数个数p$

释:

• (1) 比如对总体均值$\mu$做推断,估计函数可取$g(x,\mu )=x-\mu$,此时的估计方程就变成了 E { X − μ } = 0 E\{X-\mu\}=0 E{ X−μ}=0,这显然是总体均值应该满足的性质. 再比如 ：假设$y_1,y_2,..,y_n$是i.i.d的一元随机变量,均值为$\theta$,并且还知道二阶矩是$m(\theta )$,那么估计方程自然可取$g(y,\theta )=(y-\theta ,y^2-m(\theta ))$,相应的估计方程就变成了 E { ( y − θ , y 2 − m ( θ ) ) } = ( 0 , 0 ) E\{(y-\theta,y^2-m(\theta))\}=(0,0) E{ (y−θ,y2−m(θ))}=(0,0).
    \text{ }     \text{ }     \text{ }     \text{ }     \text{ }  其实估计方程就是我们根据已有信息对 参数/总体$F$ 所必须满足的等式表示出来.
• (2) 注意到估计方程其实是起到了筛选总体分布$F$的作用,那么方程的个数$r$越多其实对$F$的筛选就越精细,如果估计方程的个数$r<$参数个数$p$, 那么任何一个具有$p$维参数$\theta$的分布其实都能找到一组$\theta$是满足这个等式约束的,也就无法起到筛选确定$F$的作用了! 当然了,这里的方程之间不应该是矛盾的(一个方程的解与另一个方程的解不相容),而应该是或多或少地从不同侧面反映出总体$F$ / 参数$\theta$ 的特征的.

---

2.GEE参数的经验似然

先给出前面我们对于均值参数$\mu$做推断时的截面经验似然:
L ( μ ) = sup ⁡ { ∏ i = 1 n p i : p i ≥ 0 , ∑ i = 1 n p i = 1 , ∑ i = 1 n p i ( X i − μ ) = 0 } L(\mu)=\sup\{\prod\limits_{i=1}^np_i:p_i\ge 0,\s