UA MATH566 统计理论5 假设检验简介

这一讲根据最简单的一类假设检验介绍假设检验的思想。假设${\theta }_0,{\theta }_1\in \Theta$，原假设和备择假设是
$$\begin{gathered} H_0:\theta ={\theta }_0 \\ {H}_a:\theta ={\theta }_1 \end{gathered}$$
我们需要根据样本来决定是拒绝原假设或者不能拒绝原假设。假设检验有可能出现两种错误，Type I error（假阳性）是在错误地拒绝了为真的原假设，Type II error（假阴性）是在原假设非真时没能拒绝原假设。记$\alpha$为Type I error发生的概率，$\alpha$又叫显著性水平，则
$$\alpha =P(reject{H}_0|\theta ={\theta }_0)$$
记$\beta$为Type II error发生的概率，
$$\beta =P(accept{H}_0|\theta ={\theta }_1)$$
称$1-\beta$为检验的势（power）。记样本为 X = { X 1 , ⋯   , X n } X=\{X_1,\cdots,X_n\} X={ X1​,⋯,Xn​}，定义critical region，或者说拒绝域为
$$X\in C\iff reject{H}_0$$
记显著性水平$\alpha$下，most powerful的拒绝域为$C^{\ast }$，若对所有（显著性水平$\alpha$下的）拒绝域$C$：

1. $\alpha =P(X\in C^{\ast }|\theta ={\theta }_0)=P(X\in C|\theta ={\theta }_0)$，即相同的显著性水平
2. ${\beta }^{\ast }\le \beta$，即最大的势。其中${\beta }^{\ast }=P(X\in C^{\ast }|\theta ={\theta }_1)$，$\beta =P(X\in C|\theta ={\theta }_1)$

ROC曲线可以比较直观地比较不同检验的power。定义Receiving Operator Curve（ROC）为$1-\beta$关于$\alpha$的图像，如果某个检验的ROC曲线在其他检验的上方，则这个检验就有更大的势。
定义上面那个简单检验的似然比为
λ ( X ) = sup ⁡ { θ = θ 0 } L ( θ ∣ X ) sup ⁡ { θ = θ 0 , θ 1 } L ( θ ∣ X ) = L ( θ 0 ∣ X ) max ⁡ { L ( θ 0 ∣ X ) , L ( θ 1 ∣ X ) } \lambda(X) = \frac{\sup_{\{\theta=\theta_0\}} L(\theta|X)}{\sup_{\{\theta=\theta_0,\theta_1\}} L(\theta|X)} = \frac{L(\theta_0|X)}{\max\{L(\theta_0|X),L(\theta_1|X)\}} λ(X)=sup{ θ=θ0​,θ1​}​L(θ∣X)sup{ θ=θ0​}​L(θ∣X)​=max{ L(θ0​∣X),L(θ1​∣X)}L(θ0​∣X)​
显然$\lambda (X)\in [0,1]$，用这个统计量（似然比统计量，这个检验叫似然比检验）构造拒绝域为
C ∗ = { X : λ ( X ) ≤ c } C^*=\{X:\lambda(X) \le c\} C∗={ X:λ(X)≤c}
其中$c\in [0,1]$，它的选取与显著性水平相关。这个拒绝域的定义也比较合理，如果原假设的似然相比备择假设来说非常小的话，我们是应该拒绝原假设的。注意到如果 max ⁡ { L ( θ 0 ∣ X ) , L ( θ 1 ∣ X ) } = L ( θ 0 ∣ X ) \max\{L(\theta_0|X),L(\theta_1|X)\}=L(\theta_0|X) max{ L(θ0​∣X),L(θ1​∣X)}=L(θ0​∣X)，这个时候$\lambda (X)=1$，显然不会拒绝原假设，所以对于这个简单的假设检验，一般把拒绝域写成
C ∗ = { X : L ( θ 0 ∣ X ) L ( θ 1 ∣ X ) ≤ c α } C^*=\{X:\frac{L(\theta_0|X)}{L(\theta_1|X)}\le c_{\alpha}\} C∗={ X:L(θ