1.概论思想:构建理论基础
1.1 条件概率
B发生的情况下A发生的概率:
P
(
A
∣
B
)
=
P
(
A
B
)
P
(
B
)
P(A|B)=\frac{P(AB)}{P(B)}
P(A∣B)=P(B)P(AB)
如果有
P
(
A
∣
B
)
>
P
(
A
)
P(A|B)>P(A)
P(A∣B)>P(A)则说明B事件会让A事件发生概率增加,反之亦然。
如果有
P
(
A
∣
B
)
=
P
(
A
)
P(A|B)=P(A)
P(A∣B)=P(A)则说明B事件对A没有影响,称A与B独立。
Q1:A与B不相容,是否说明A与B 独立?
1.2 全概率公式
P
(
A
)
=
∑
i
=
1
n
P
(
B
i
)
P
(
A
∣
B
i
)
P(A)=\sum_{i=1}^{n}P(B_i)P(A|B_i)
P(A)=i=1∑nP(Bi)P(A∣Bi)
B
i
B_i
Bi如果代表原因,A代表结果。则全概率公式表示A事件发生的概率等于由于原因
B
i
B_i
Bi导致A事件发生概率的总和,所以是由因到果。
1.3 贝叶斯公式
P ( B i ∣ A ) = P ( A ∣ B i ) P ( B i ) ∑ i = 1 n P ( B i ) P ( A ∣ B i ) P(B_i|A)=\frac{P(A|B_i)P(B_i)}{\sum_{i=1}^{n}P(B_i)P(A|B_i)} P(Bi∣A)=∑i=1nP(Bi)P(A∣Bi)P(A∣Bi)P(Bi)
如果A代表结果, B i B_i Bi代表原因则贝叶斯公式表示A事件发生是原因 B i B_i Bi导致的概率
1.4 独立 和 条件独立
1.4.1独立
A与B 独立则有
P
(
A
B
)
=
P
(
A
)
P
(
B
)
P(AB)=P(A)P(B)
P(AB)=P(A)P(B)
易证
1.4.2条件独立
如果在事件C的影响下,事件A与事件B满足下列等式则说明A与B在C的条件下独立
P
(
A
B
∣
C
)
=
P
(
B
∣
C
)
P
(
A
∣
C
)
(1)
P(AB|C)=P(B|C)P(A|C)\tag{1}
P(AB∣C)=P(B∣C)P(A∣C)(1)
证明:
P
(
A
B
∣
C
)
=
P
(
A
B
C
)
P
(
C
)
=
P
(
C
)
P
(
B
∣
C
)
P
(
A
∣
B
C
)
P
(
C
)
=
P
(
B
∣
C
)
P
(
A
∣
B
C
)
P(AB|C)=\frac{P(ABC)}{P(C)}=\frac{P(C)P(B|C)P(A|BC)}{P(C)}=P(B|C)P(A|BC)
P(AB∣C)=P(C)P(ABC)=P(C)P(C)P(B∣C)P(A∣BC)=P(B∣C)P(A∣BC)
又因为(1)式所以有
P
(
B
∣
C
)
P
(
A
∣
B
C
)
=
P
(
B
∣
C
)
P
(
A
∣
C
)
P(B|C)P(A|BC)=P(B|C)P(A|C)
P(B∣C)P(A∣BC)=P(B∣C)P(A∣C)
P
(
A
∣
B
C
)
=
P
(
A
∣
C
)
P(A|BC)=P(A|C)
P(A∣BC)=P(A∣C)
显然在事件C的条件下,事件B不干扰事件A故A和B条件独立