区间估计求解步骤:
1.构造统计量
u
(
X
1
,
X
2
⋯
,
X
n
;
θ
)
u(X_1,X_2\cdots ,X_n;\theta)
u(X1,X2⋯,Xn;θ)
2.
P
{
c
<
u
(
X
1
,
X
2
⋯
,
X
n
;
θ
)
<
d
}
=
1
−
α
P\left \{ c< u(X_1,X_2\cdots ,X_n;\theta)<d \right \}=1-\alpha
P{c<u(X1,X2⋯,Xn;θ)<d}=1−α
3.求得
θ
\theta
θ的
1
−
α
1-\alpha
1−α置信区间
eg1:
设总体
X
∼
N
(
μ
,
σ
2
)
X\sim N(\mu ,\sigma ^2)
X∼N(μ,σ2), 则
μ
\mu
μ的区间估计:
σ
2
\sigma ^2
σ2已知:
由于
X
‾
∼
N
(
μ
,
σ
2
n
)
\overline{X}\sim N(\mu ,\frac{\sigma ^2}{n})
X∼N(μ,nσ2),故
X
‾
−
μ
σ
/
n
∼
N
(
0
,
1
)
\frac{\overline{X}-\mu }{\sigma/\sqrt{n}}\sim N(0,1)
σ/nX−μ∼N(0,1)
对于给定的
α
\alpha
α,
u
α
2
u_\frac{\alpha}{2}
u2α是标准正态分布的
α
2
\frac{\alpha}{2}
2α上侧分位数,于是
P
{
−
u
α
2
<
X
‾
−
μ
σ
/
n
<
u
α
2
}
=
1
−
α
P\left \{ -u_\frac{\alpha}{2}< \frac{\overline{X}-\mu }{\sigma/\sqrt{n}}<u_\frac{\alpha}{2} \right \}=1-\alpha
P{−u2α<σ/nX−μ<u2α}=1−α
P
{
X
‾
−
u
α
2
σ
n
<
μ
<
X
‾
+
u
α
2
σ
n
}
=
1
−
α
P\left \{ \overline{X}-u_\frac{\alpha}{2}\frac{\sigma}{\sqrt{n}}< \mu< \overline{X}+u_\frac{\alpha}{2}\frac{\sigma}{\sqrt{n}} \right \}=1-\alpha
P{X−u2αnσ<μ<X+u2αnσ}=1−α
故
μ
\mu
μ的置信度为
1
−
α
1-\alpha
1−α的置信区间为
(
X
‾
−
u
α
2
σ
n
,
X
‾
+
u
α
2
σ
n
)
\left (\overline{X}-u_\frac{\alpha}{2}\frac{\sigma}{\sqrt{n}},\overline{X}+u_\frac{\alpha}{2}\frac{\sigma}{\sqrt{n}} \right )
(X−u2αnσ,X+u2αnσ)
当
α
=
0.05
\alpha=0.05
α=0.05时,
u
α
2
u_\frac{\alpha}{2}
u2α=1.96
σ
2
\sigma ^2
σ2未知:
故
μ
\mu
μ的置信度为
1
−
α
1-\alpha
1−α的置信区间为
(
X
‾
−
t
α
2
(
n
−
1
)
S
n
∗
n
,
X
‾
+
t
α
2
(
n
−
1
)
S
n
∗
n
)
\left (\overline{X}-t_\frac{\alpha}{2}(n-1)\frac{S_n^*}{\sqrt{n}},\overline{X}+t_\frac{\alpha}{2}(n-1)\frac{S_n^*}{\sqrt{n}} \right )
(X−t2α(n−1)nSn∗,X+t2α(n−1)nSn∗)
其中:
u
α
2
σ
n
u_\frac{\alpha}{2}\frac{\sigma}{\sqrt{n}}
u2αnσ是抽样误差.
eg2:
设总体
X
∼
N
(
μ
,
σ
2
)
X\sim N(\mu ,\sigma ^2)
X∼N(μ,σ2),
μ
\mu
μ,
σ
2
\sigma^2
σ2 均未知,则总体方差
σ
2
\sigma^2
σ2或标准差
σ
\sigma
σ的区间估计(讨论方差的区间估计可用于分析生产的稳定性与估计精度等问题):
σ
2
\sigma^2
σ2置信度为
1
−
α
1-\alpha
1−α的置信区间为
(
(
n
−
1
)
S
n
∗
2
χ
α
2
2
(
n
−
1
)
,
(
n
−
1
)
S
n
∗
2
χ
1
−
α
2
2
(
n
−
1
)
)
\left(\frac{(n-1){S_n^*}^2}{\chi_\frac{\alpha}{2}^2(n-1)} , \frac{(n-1){S_n^*}^2}{\chi_{1-\frac{\alpha}{2}}^2(n-1)}\right)
(χ2α2(n−1)(n−1)Sn∗2,χ1−2α2(n−1)(n−1)Sn∗2)
最大似然估计
eg:已知
X
1
,
X
2
.
.
.
,
X
n
X_1,X_2...,X_n
X1,X2...,Xn是从两点分布Bernoulli(1,p)中抽取出来的独立同分布样本,参数p的似然估计:
L
=
∏
i
=
1
n
p
x
i
(
1
−
p
)
1
−
x
i
=
p
∑
x
i
(
1
−
p
)
n
−
∑
x
i
L =\displaystyle\prod_{i=1}^{n}p^{x_i}(1-p)^{1-x_i}=p^{\sum x_i}(1-p)^{n-\sum x_i}
L=i=1∏npxi(1−p)1−xi=p∑xi(1−p)n−∑xi
ln
(
L
)
=
∑
x
i
ln
p
+
(
n
−
∑
x
i
)
ln
(
1
−
p
)
\ln(L)=\sum x_i \ln p+(n-\sum x_i)\ln(1-p)
ln(L)=∑xilnp+(n−∑xi)ln(1−p)
∂
ln
(
L
)
∂
p
=
0
\frac{\partial\ln(L)}{\partial p} =0
∂p∂ln(L)=0
p
^
=
X
ˉ
\hat p=\bar{X}
p^=Xˉ
泊松分布
用
P
o
s
s
i
o
n
(
λ
)
Possion(\lambda)
Possion(λ)分布参数
λ
\lambda
λ的极大似然估计的渐近分布求置信区间
P
(
X
=
x
)
=
λ
x
e
−
λ
x
!
P(X=x)=\frac{\lambda^x e^{-\lambda}}{x!}
P(X=x)=x!λxe−λ
L
(
λ
)
=
∏
i
=
1
n
λ
x
i
e
−
λ
x
i
!
=
e
−
n
λ
λ
∑
x
i
/
∏
i
=
1
n
x
i
!
L(\lambda)=\displaystyle\prod_{i=1}^{n}\frac{\lambda^{x_i}e^{-\lambda}}{x_i!}=e^{-n\lambda}\lambda^{\sum x_i}/\displaystyle\prod_{i=1}^{n}x_i!
L(λ)=i=1∏nxi!λxie−λ=e−nλλ∑xi/i=1∏nxi!
ln
(
λ
)
=
\ln(\lambda)=
ln(λ)=
∂
ln
(
λ
)
∂
λ
=
0
\frac{\partial\ln(\lambda)}{\partial \lambda} =0
∂λ∂ln(λ)=0
λ
^
=
X
‾
\hat\lambda =\overline{X}
λ^=X
根据CLT:
n
→
∞
,
λ
^
∼
N
(
λ
,
λ
/
n
)
n\to\infty,\hat\lambda\sim N(\lambda ,\lambda/n)
n→∞,λ^∼N(λ,λ/n)
λ
^
−
λ
λ
/
n
∼
N
(
0
,
1
)
\frac{\hat\lambda-\lambda}{\sqrt{\lambda/n}}\sim N(0 ,1)
λ/nλ^−λ∼N(0,1)
λ
^
−
u
α
/
2
λ
^
/
n
<
λ
<
λ
^
+
u
α
/
2
λ
^
/
n
\hat\lambda-u_{\alpha/2}\sqrt{\hat\lambda/n}<\lambda<\hat\lambda+u_{\alpha/2}\sqrt{\hat\lambda/n}
λ^−uα/2λ^/n<λ<λ^+uα/2λ^/n