统计学习（三）：假设检验与 p-values

设参数空间 $\circledS$ 可以分解为互不相交的子空间 $\circledS_0$ 和 $\circledS_1$. 检验

$$H_0 : \,\, \theta\in\circledS_0\qquad v.s.\qquad H_1 : \,\, \theta\in \circledS_1$$
零假设 $H_0$ ( null hypothesis ), 备择假设 $H_1$ ( alternative hypothesis ), 检验结果

设样本 $x$, 检验统计量 $T(x)$, 临界值 $c$, 则拒绝域 $R$ 通常可以表示为

$$R=\{ x : T(x) > c \}$$

定义3.1 一个检验的势或功效( power function ) 定义为

$$\beta(\theta)=\mathcal{P}_{\theta}(X\in R)$$
定义检验的容度( size )为 $\alpha=\mathop{sup}\limits_{\theta\in\circledS_0}\beta(\theta)$.

称检验的水平为 $\alpha$, 如果该检验的容度不超过 $\alpha$, 即，对

$$\forall \, \theta\in\circledS_0, \, \mbox{有}\, \beta(\theta)\le \alpha$$

The Wald Test

设 $\theta$ 的估计量 $\hat{\theta}$, $\hat{se}$ 是估计量的标准误。

定义3.2 检验 $H_0 : \, \theta=\theta_0\qquad H_1 : \, \theta \ne \theta_0$
假设 $\hat{\theta}$ 是渐近正态的，即 $\dfrac{\hat{\theta}-\theta_0}{\hat{se}}\xrightarrow{d} N(0, 1)$

那么，水平 $\alpha$ 的 Wald 检验：拒绝 $H_0$, 当 $|W|>z_{\frac{\alpha}{2}}$, 这里

$W=\dfrac{\hat{\theta}-\theta_0}{\hat{se}}\qquad (z_{\alpha}=\Phi^{-1}(1-\alpha))$

定理3.1 渐近地， Wald 检验有水平 $\alpha$, 即

$$\mathcal{P}_{\theta_0}(|W|>z_{\frac{\alpha}{2}})\longrightarrow \alpha,\,\, \mbox{当} \,n\rightarrow\infty\,\mbox{时}$$ .

定义3.3 称 $\beta(\theta)=\mathcal{P}_{\theta}(X\in R),\, \theta\in \circledS_1$ 为检验的功效( Power ).

例3.1 比较两个总体的均值

设 $x_1, x_2, \dots, x_m; y_1, y_2, \dots, y_n$ 是分别来自两个总体的样本，均值分别为 $\mu_1, \mu_2$, 检验

$$H_0 : \, \mu_1=\mu_2\qquad H_1 : \, \mu_1 \ne \mu_2$$
令 $\delta=\mu_1-\mu_2$, 则检验等价于
$$H_0 : \, \delta=0\qquad H_1 : \, \delta \ne 0$$

$\delta$ 的估计量 δ^=x¯−y</