不可数的样本空间
考虑这样一个实验:从区间 Ω = [ 0 , 1 ] \Omega=[0,1] Ω=[0,1]中随机地选取一个实数,每一个数被取到的概率都是相等的。那么问题来了,单个实数被取到的概率是多少?有以下两种情况:
- 取到单个实数的概率为正值 ϵ \epsilon ϵ,考虑集合 A = { 1 , 2 , . . . , 1 n } A=\{1,2,...,\frac{1}{n} \} A={1,2,...,n1},那么A中元素被取到的概率为无穷大。
- 取到单个实数的概率为0,考虑一个不可数子集 A = [ 1 3 , 2 3 ] A=[\frac{1}{3},\frac{2}{3}] A=[31,32],A中元素被取到的概率无法确定,因为概率测度在不可数不相交的并(这里指的是单元素集)上是不可加的。
由上述情况可知,当样本空间是不可数的时候,比如
Ω
=
[
0
,
1
]
\Omega=[0,1]
Ω=[0,1],我们需要一种新的方法确定概率。对于
Ω
\Omega
Ω的一些特定的子集,我们需要确定它们的概率。
直观上来讲,我们希望我们的测度
μ
\mu
μ 满足以下两个性质:
- μ ( ( a , b ) ) = μ ( ( a , b ] ) = μ ( [ a , b ) ) = μ ( [ a , b ] ) \mu((a,b))=\mu((a,b])=\mu([a,b))=\mu([a,b]) μ((a,b))=μ((a,b])=μ([a,b))=μ([a,b])
- 平移不变性。如果
A
∈
[
0
,
1
]
A\in [0,1]
A∈[0,1], 那么,
∀
x
∈
Ω
,
μ
(
A
⊕
x
)
=
μ
(
A
)
\forall x\in \Omega,\mu(A\oplus x)=\mu(A)
∀x∈Ω,μ(A⊕x)=μ(A)。
A
⊕
x
A\oplus x
A⊕x的定义如下:
A ⊕ x = { a + x ∣ a ∈ A , a + x ≤ 1 } ∪ { a + x − 1 ∣ a ∈ A , a + x > 1 } A\oplus x=\{ a+x | a\in A,a+x \leq 1 \} \cup \{a+x-1|a\in A,a+x\gt 1 \} A⊕x={a+x∣a∈A,a+x≤1}∪{a+x−1∣a∈A,a+x>1}
然而,不存在一个测度的定义 μ ( A ) \mu(A) μ(A)使其对于[0,1]的所有子集都满足上述两个性质。
σ \sigma σ-algebra and Borel sets
根据之前的分析,我们需要定义一个更小的 σ \sigma σ-代数。首先我们来看一下关于集合的代数的定义。
-
集合代数
-
环
设 R R R是由集构成的集类,并且由 A ∈ R , B ∈ R A\in R,B \in R A∈R,B∈R能推出 A ∪ B ∈ R , A − B ∈ R A\cup B\in R, A-B\in R A∪B∈R,A−B∈R
则称R为 σ − \sigma- σ−环。
由定义可以看出,环对于并和差运算是封闭的。由于 A ∩ B = A − ( A − B ) A\cap B=A-(A-B) A∩B=A−(A−B),所以环对于交运算也是封闭的。 -
集代数
对于环R,如果满足: ∃ X ∈ R , ∀ E ∈ R , E ⊆ X \exists X\in R, \forall E\in R, E\subseteq X ∃X∈R,∀E∈R,E⊆X
即R中所有集合的全集也在R中,则R是X上的代数,称为R上的集代数。
-
-
σ \sigma σ-algebra( σ \sigma σ-代数)
设X为集合,假设有集合系 F ⊆ P ( X ) F\subseteq P(X) F⊆P(X),P(X)为X的幂集,如果F满足以下条件:
- X ∈ F X\in F X∈F
- A ∈ F → A c ∈ F A\in F\rightarrow A^c\in F A∈F→Ac∈F
- ∀ n ∈ N , A n ∈ F → ∪ n = 1 ∞ A n ∈ F \forall n\in N,A_n\in F \rightarrow \cup_{n=1}^{\infty}A_n \in F ∀n∈N,An∈F→∪n=1∞An∈F
则称F是X的 σ \sigma σ-代数。
σ \sigma σ-代数在集合代数的基础上对可数并运算是封闭的。集合X上的 σ \sigma σ-代数对于补运算也是封闭的。 -
Borel sets
接下来我们讨论生成 σ \sigma σ-代数,样本空间子集的集合的生成 σ \sigma σ-代数是包含该子集集合的最小 σ \sigma σ-代数。
对于生成 σ \sigma σ-代数,有以下定理:
假设C是 Ω \Omega Ω的子集的集合,存在包含C中所有元素的最小的 σ \sigma σ-代数 σ ( C ) \sigma(C) σ(C)。
Borel集的集合 B B B是包含所有由实数组成的开集的最小 σ \sigma σ-代数,也叫Borel σ \sigma σ-代数,B中的元素称为Borel可测集或Borel集。
根据定义,开区间都是Borel集,单元素集合{b}也是Borel集,证明如下:
{ b } = ∩ n = 1 ∞ ( b − 1 n , b + 1 n ) \{b\}=\cap_{n=1}^{\infty}(b-\frac{1}{n},b+\frac{1}{n}) {b}=∩n=1∞(b−n1,b+n1)
由 σ \sigma σ-代数的性质,B(表示Borel集)中元素的可数交运算也是B中的元素。所以,{b}是Borel集。
值得注意的是,实数集R上的Borel σ \sigma σ-代数的基数和R的基数是一样的(等我看懂了证明过程后再写一篇博客)。 -
Lebesgue algebra
给定集合 Ω = ( 0 , 1 ] \Omega=(0,1] Ω=(0,1]. F 0 F_{0} F0由空集和形如(a,b]的左开右闭区间的有限并集组成。 F 0 F_{0} F0中的元素的形式如下: F = ( a 1 , b 1 ] ∪ ( a 2 , b 2 ] ∪ . . . ∪ ( a n , b n ] F=(a_1,b_1]\cup(a_2,b_2]\cup...\cup(a_n,b_n] F=(a1,b1]∪(a2,b2]∪...∪(an,bn]
其中, 0 ≤ a 1 < b 1 ≤ a 2 < b 2 ≤ . . . ≤ a n < b n , n ∈ N 0\leq a_1\lt b_1\leq a_2\lt b_2\leq ... \leq a_n\lt b_n, n\in N 0≤a1<b1≤a2<b2≤...≤an<bn,n∈N.
F 0 F_0 F0满足以下性质:-
F
0
F_0
F0是集代数
由定义, ϕ ∈ F 0 \phi \in F_0 ϕ∈F0, ϕ c = ( 0 , 1 ] ∈ F 0 \phi^c=(0,1]\in F_0 ϕc=(0,1]∈F0, F 0 F_0 F0中元素的并还是 F 0 F_0 F0中元素; F 0 F_0 F0中元素的补的形如 ( 0 , a 1 ] ∪ ( b 1 , a 2 ] ∪ . . . . ∪ ( b n , 1 ] (0,a_1]\cup(b_1,a_2]\cup....\cup(b_n,1] (0,a1]∪(b1,a2]∪....∪(bn,1],还是 F 0 F_0 F0中的元素; A ∩ B = ( A c ∪ B c ) c A\cap B=(A^c\cup B^c)^c A∩B=(Ac∪Bc)c,F_0对交运算封闭; A − B = A ∩ B c A-B=A\cap B^c A−B=A∩Bc, F 0 F_0 F0对差运算封闭。因此, F 0 F_0 F0是集代数。 -
F
0
F_0
F0不是
σ
\sigma
σ-代数
( 0 , n n + 1 ] ∈ F 0 (0,\frac{n}{n+1}]\in F_0 (0,n+1n]∈F0, ∪ n = 1 ∞ ( 0 , n n + 1 ] = ( 0 , 1 ] ∉ F 0 \cup_{n=1}^{\infty}(0,\frac{n}{n+1}]=(0,1]\notin F_0 ∪n=1∞(0,n+1n]=(0,1]∈/F0,所以 F 0 F_0 F0不是 σ \sigma σ-代数。 -
σ
(
F
0
)
=
B
\sigma(F_0)=B
σ(F0)=B
证明略。
对于 F 0 F_0 F0中的元素F,我们定义函数 P 0 : F 0 → [ 0 , 1 ] P_0:F_0\rightarrow [0,1] P0:F0→[0,1], P 0 P_0 P0满足:
P 0 ( ϕ ) = 0 P 0 ( F ) = ∑ i = 1 n ( b i − a i ) P_0(\phi)=0 \quad P_0(F)=\sum_{i=1}^{n}(b_i-a_i) P0(ϕ)=0P0(F)=i=1∑n(bi−ai)
P 0 P_0 P0在 F 0 F_0 F0上是可数可加的,对于不相交的集合 ( a 1 , b 1 ] , . . . , ( a n , b n ] (a_1,b_1],...,(a_n,b_n] (a1,b1],...,(an,bn], ∪ i = 1 n ( a i , b i ] ∈ F 0 \cup_{i=1}^{n}(a_i,b_i]\in F_0 ∪i=1n(ai,bi]∈F0, P 0 ( ∪ i = 1 n ( a i , b i ] ) = ∑ i = 1 n P 0 ( ( a i , b i ] ) = ∑ i = 0 n ( b i − a i ) P_0(\cup_{i=1}^{n}(a_i,b_i])=\sum_{i=1}^{n} P_0((a_i,b_i])=\sum_{i=0}^{n}(b_i-a_i) P0(∪i=1n(ai,bi])=∑i=1nP0((ai,bi])=∑i=0n(bi−ai), P 0 P_0 P0可以被称作(0,1]上的Lebesgue测度。
对于单元素集合 { b } \{b\} {b}, b ∈ ( 0 , 1 ] b\in (0,1] b∈(0,1],有,
P ( b ) = P ( ∩ n = 1 ∞ ( b − 1 n , b ] ∩ Ω ) = P ( ∩ n = 1 ∞ ( b − 1 n , b ] ) = lim n → ∞ 1 n = 0 P({b})=P(\cap_{n=1}^{\infty}(b-\frac{1}{n},b]\cap \Omega)=P(\cap_{n=1}^{\infty}(b-\frac{1}{n},b])=\lim\limits_{n\rightarrow\infty}\frac{1}{n}=0 P(b)=P(∩n=1∞(b−n1,b]∩Ω)=P(∩n=1∞(b−n1,b])=n→∞limn1=0.
由于可数集都是单元素集合的可数并集,可数集的测度为0.
在概率空间中,事件A几乎一定发生意味着P(A)=1,但是P(A)=1不意味着 A = Ω A=\Omega A=Ω.
利用之前的定义,我们可以计算康托集K的测度。
P ( K c ) = 1 3 + 2 9 + 4 27 + . . . . = 1 3 1 − 2 3 = 1 P(K^c)=\frac{1}{3}+\frac{2}{9}+\frac{4}{27}+....=\frac{\frac{1}{3}}{1-\frac{2}{3}}=1 P(Kc)=31+92+274+....=1−3231=1
P ( K ) = 1 − P ( K c ) = 0 P(K)=1-P(K^c)=0 P(K)=1−P(Kc)=0 -
F
0
F_0
F0是集代数