若 X 1 , . . . , X n X_{1},...,X_{n} X1,...,Xn独立同分布，n很大时，依概率
弱大数定理
1 n ∑ X i → E X \frac {1}{n}\sum X_{i}\rightarrow EX n1∑Xi→EX
渐进均分定理
− 1 n l o g p ( X 1 , . . . , X n ) → H ( X ) -\frac{1}{n}logp(X_{1},...,X_{n})\rightarrow H(X) −n1logp(X1,...,Xn)→H(X)
典型集
2 − n ( H ( X ) + ε ) ≤ p ( x 1 , . . . , x n ) ≤ 2 − n ( H ( X ) − ε ) 2^{-n(H(X)+\varepsilon )}\leq p(x_{1},...,x_{n})\leq 2^{-n(H(X)-\varepsilon )} 2−n(H(X)+ε)≤p(x1,...,xn)≤2−n(H(X)−ε)
典型集性质
- H ( X ) − ε ≤ − 1 n l o g p ( x 1 , . . . , x n ) ≤ H ( X ) + ε H(X)-\varepsilon \leq-\frac{1}{n}logp(x_{1},...,x_{n})\leq H(X)+\varepsilon H(X)−ε≤−n1logp(x1,...,xn)≤H(X)+ε
-
P
r
{
A
ε
(
n
)
}
>
1
−
ε
Pr\left\{ A_{\varepsilon}^{(n)} \right\}>1-\varepsilon
Pr{Aε(n)}>1−ε
其中n充分大 - ∣ A ε ( n ) ∣ ≤ 2 n ( H ( X ) + ε ) |A_{\varepsilon}^{(n)}|\leq 2^{n(H(X)+\varepsilon)} ∣Aε(n)∣≤2n(H(X)+ε)
-
∣
A
ε
(
n
)
∣
≥
(
1
−
ε
)
2
n
(
H
(
X
)
−
ε
)
|A_{\varepsilon}^{(n)}|\geq (1-\varepsilon)2^{n(H(X)-\varepsilon)}
∣Aε(n)∣≥(1−ε)2n(H(X)−ε)
其中n充分大
1089
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
