条件概率
条件概率是指事件A在另外一个事件B已经发生条件下的发生概率。条件概率表示为:
P
(
A
∣
B
)
P(A\mid B )
P(A∣B),读作“在B的条件下A发生的概率”
条件概率公式为:
P
(
A
∣
B
)
=
P
(
A
B
)
P
(
B
)
P(A\mid B) = \frac{P(AB)}{P(B)}
P(A∣B)=P(B)P(AB)
同理可得出在A条件下B发生的概率为
P
(
B
∣
A
)
=
P
(
A
B
)
P
(
A
)
P(B\mid A) = \frac{P(AB)}{P(A)}
P(B∣A)=P(A)P(AB)
乘法公式
1.由上面的条件概率公式得:
P
(
A
B
)
=
P
(
A
∣
B
)
∗
P
(
B
)
=
P
(
B
∣
A
)
∗
P
(
A
)
P(AB) = P(A \mid B) * P(B)=P(B \mid A ) * P(A)
P(AB)=P(A∣B)∗P(B)=P(B∣A)∗P(A)
全概率公式
如果事件组B1,B2,… 满足
- B1,B2…两两互斥,即 Bi ∩ Bj = ∅ ,i≠j , i,j=1,2,…,且P(Bi)>0,i=1,2,…;
- B1∪B2∪…=Ω ,则称事件组 B1,B2,…是样本空间Ω的一个划分,也称B为完备事件组
设 B1,B2,…是样本空间Ω的一个划分,A为任一事件,则:
P ( A ) = ∑ i = 1 ∞ P ( B i ) P ( A ∣ B i ) P(A)= \sum\limits_{i=1}^\infty {P(B_i)}{P(A\mid B _i)} P(A)=i=1∑∞P(Bi)P(A∣Bi)
因为 P ( A ) = P ( A Ω ) = P ( A ( B 1 + B 2 + B 3 + . . . ) ) P(A) = P(A\Omega)=P(A(B_1+B_2+B_3+...)) P(A)=P(AΩ)=P(A(B1+B2+B3+...))
又因为 B i B_i Bi之间互斥,所以 P ( A ) = P ( A B 1 ) + P ( A B 2 ) + P ( A B 3 ) + . . . P(A)=P(AB_1)+P(AB_2)+P(AB_3)+... P(A)=P(AB1)+P(AB2)+P(AB3)+...
根据上面的乘法公式我们可以得到:
P ( A B 1 ) = P ( B 1 ) ∗ P ( A ∣ B 1 ) P(AB_1)=P(B_1)*P(A\mid B_1) P(AB1)=P(B1)∗P(A∣B1)
P ( A B 2 ) = P ( B 2 ) ∗ P ( A ∣ B 2 ) P(AB_2)=P(B_2)*P(A\mid B_2) P(AB2)=P(B2)∗P(A∣B2)
P ( A B 3 ) = P ( B 3 ) ∗ P ( A ∣ B 3 ) P(AB_3)=P(B_3)*P(A\mid B_3) P(AB3)=P(B3)∗P(A∣B3)
由此可得 = P ( A Ω ) = P ( A ) = ∑ i = 1 ∞ P ( B i ) P ( A ∣ B i ) = P(A \Omega)=P(A)= \sum\limits_{i=1}^\infty {P(B_i)}{P(A\mid B _i)} =P(AΩ)=P(A)=i=1∑∞P(Bi)P(A∣Bi)
贝叶斯公式
P ( B i ∣ A ) = P ( A ∣ B i ) ∗ P ( B i ) ∑ j = 1 ∞ P ( B j ) P ( A ∣ B j ) P(B_i\mid A)= \frac{P(A\mid B_i) * P(B_i)}{\sum\limits_{j=1}^\infty{P(B_j)}{P(A\mid B_j)}} P(Bi∣A)=j=1∑∞P(Bj)P(A∣Bj)P(A∣Bi)∗P(Bi)
推导过程
- 利用条件概率公式得到
P ( B i ∣ A ) = P ( A B i ) P ( A ) P(B_i\mid A)=\frac{P(AB_i)}{P(A)} P(Bi∣A)=P(A)P(ABi) - 利用乘法公式得到变形
P
(
A
B
i
)
=
P
(
A
∣
B
i
)
∗
P
(
B
i
)
P(AB_i) = P(A \mid B_i) * P(B_i)
P(ABi)=P(A∣Bi)∗P(Bi)
即:
P ( B i ∣ A ) = P ( A ∣ B i ) ∗ P ( B i ) P ( A ) P(B_i\mid A)=\frac{P(A\mid B_i)*P(B_i)}{P(A)} P(Bi∣A)=P(A)P(A∣Bi)∗P(Bi) - 再利用全概率公式
P
(
A
Ω
)
=
P
(
A
)
=
∑
j
=
1
∞
P
(
B
j
)
P
(
A
∣
B
j
)
P(A\Omega)=P(A)= \sum\limits_{j=1}^\infty {P(B_j)}{P(A\mid B _j)}
P(AΩ)=P(A)=j=1∑∞P(Bj)P(A∣Bj)
即:
P ( B i ∣ A ) = P ( A ∣ B i ) ∗ P ( B i ) ∑ j = 1 ∞ P ( B j ) P ( A ∣ B j ) P(B_i\mid A)= \frac{P(A\mid B_i) * P(B_i)}{\sum\limits_{j=1}^\infty{P(B_j)}{P(A\mid B_j)}} P(Bi∣A)=j=1∑∞P(Bj)P(A∣Bj)P(A∣Bi)∗P(Bi)