(一)条件概率
定义
:设
A
,
B
A,B
A,B是两个事件,且
P
(
A
)
>
0
P(A)>0
P(A)>0,称
P ( B ∣ A ) = P ( A B ) P ( A ) P(B|A)=\frac{P(AB)}{P(A)} P(B∣A)=P(A)P(AB)
为在事件 A A A发生的条件下事件 B B B发生的条件概率。
条件概率 P ( . ∣ A ) P(.|A) P(.∣A)符合概率定义中的三个条件,即
1、非负性:对于每一事件
B
B
B,有
P
(
B
∣
A
)
⩾
0
P(B|A) \geqslant 0
P(B∣A)⩾0;
2、规范性:对于必然事件
S
S
S,有
P
(
S
∣
A
)
=
1
P(S|A) = 1
P(S∣A)=1;
3、可列可加性:设
B
1
,
B
2
,
.
.
.
B_1,B_2,...
B1,B2,...是两两互不相容的事件,则有
P ( ⋃ i = 1 ∞ B i ∣ A ) = ∑ i = 1 ∞ P ( B i ∣ A ) . P(\bigcup_{i=1}^{\infty}B_i|A)=\sum_{i=1}^{\infty }P(B_i|A). P(i=1⋃∞Bi∣A)=i=1∑∞P(Bi∣A).
(二)乘法定理
由条件概率的定义,可得下述定理。
乘法定理:设 P ( A ) > 0 P(A)>0 P(A)>0,则有
P ( A B ) = P ( B ∣ A ) P ( A ) . P(AB)=P(B|A)P(A). P(AB)=P(B∣A)P(A).
此式称为乘法公式。
乘法公式容易推广到多个事件的积事件的情况。例如,设 A , B , C A,B,C A,B,C为事件,且 P ( A B ) > 0 P(AB)>0 P(AB)>0,则有
P ( A B C ) = P ( C ∣ A B ) P ( B ∣ A ) P ( A ) . P(ABC)=P(C|AB)P(B|A)P(A). P(ABC)=P(C∣AB)P(B∣A)P(A).
在这里,注意到由假设 P ( A B ) > 0 P(AB)>0 P(AB)>0可推得 P ( A ) ⩾ P ( A B ) > 0. P(A)\geqslant P(AB)>0. P(A)⩾P(AB)>0.
一般,设 A 1 , A 2 , . . . , A n A_1,A_2,...,A_n A1,A2,...,An为 n n n个事件, n ⩾ 2 n\geqslant 2 n⩾2,且 P ( A 1 A 2 . . . A n − 1 ) > 0 P(A_1A_2...A_{n-1})>0 P(A1A2...An−1)>0,则有
P ( A 1 A 2 . . . A n ) = P ( A n ∣ A 1 A 2 . . . A n − 1 ) P ( A n − 1 ∣ A 1 A 2 . . . A n − 2 ) . . . P ( A 2 ∣ A 1 ) P ( A 1 ) . P(A_1A_2...A_n)=P(A_n|A_1A_2...A_{n-1})P(A_{n-1}|A_1A_2...A_{n-2})...P(A_2|A_1)P(A_1). P(A1A2...An)=P(An∣A1A2...An−1)P(An−1∣A1A2...An−2)...P(A2∣A1)P(A1).
(三)全概率公式和贝叶斯公式
样本空间的划分
定义
:设
S
S
S为试验
E
E
E的样本空间,
B
1
,
B
2
,
.
.
.
,
B
n
B_1,B_2,...,B_n
B1,B2,...,Bn为
E
E
E的一组事件。若
(1)
B
i
B
j
=
空
集
,
i
≠
j
,
i
,
j
=
1
,
2
,
.
.
.
,
n
B_iB_j=空集 ,i \neq j,i,j=1,2,...,n
BiBj=空集,i̸=j,i,j=1,2,...,n;
(2)
B
1
∪
B
2
∪
.
.
.
∪
B
n
=
S
B_1\cup B_2\cup ... \cup B_n=S
B1∪B2∪...∪Bn=S,
则称 B 1 , B 2 , . . . , B n B_1,B_2,...,B_n B1,B2,...,Bn为样本空间 S S S的一个划分。
若 B 1 , B 2 , . . . , B n B_1,B_2,...,B_n B1,B2,...,Bn是样本空间的一个划分,那么,对每次试验,事件 B 1 , B 2 , . . . , B n B_1,B_2,...,B_n B1,B2,...,Bn中必有一个且仅有一个发生。
全概率公式
设试验 E E E的样本空间为 S S S, A A A为 E E E的事件, B 1 , B 2 , . . . , B n B_1,B_2,...,B_n B1,B2,...,Bn为 S S S的一个划分,且 P ( B i ) > 0 ( i = 1 , 2 , . . . , n ) P(B_i)>0(i=1,2,...,n) P(Bi)>0(i=1,2,...,n),则
P ( A ) = P ( A ∣ B 1 ) P ( B 1 ) + P ( A ∣ B 2 ) P ( B 2 ) + . . . + P ( A ∣ B n ) P ( B n ) P(A)=P(A|B_1)P(B_1)+P(A|B_2)P(B_2)+...+P(A|B_n)P(B_n) P(A)=P(A∣B1)P(B1)+P(A∣B2)P(B2)+...+P(A∣Bn)P(Bn)
此式称为全概率公式
贝叶斯公式
设试验 E E E的样本空间 S S S。 A A A为 E E E的事件, B 1 , B 2 , . . . , B n B_1,B_2,...,B_n B1,B2,...,Bn为 S S S的一个划分,且 P ( A ) > 0 , P ( B i ) > 0 ( i = 1 , 2 , . . . , n ) P(A)>0,P(B_i)>0(i=1,2,...,n) P(A)>0,P(Bi)>0(i=1,2,...,n),则
P ( B i ∣ A ) = P ( A ∣ B i ) P ( B i ) ∑ j = 1 n P ( A ∣ B j ) P ( B j ) , i = 1 , 2 , . . . , n . P(B_i|A)=\frac{P(A|B_i)P(B_i)}{\sum_{j=1}^{n}P(A|B_j)P(B_j) },i=1,2,...,n. P(Bi∣A)=∑j=1nP(A∣Bj)P(Bj)P(A∣Bi)P(Bi),i=1,2,...,n.
此式称为贝叶斯(Bayes)公式。