2 条件概率与统计独立性

1 条件概率

设 $(\Omega ,\mathcal{F},\mathcal{P})$ 是一个概率空间, $B\in \mathcal{F}$, 且 $P(B)>0$, 则 $\forall A\in \mathcal{F}$, 记 $P(A|B)=\frac{P(AB)}{P(B)}$.
称 $P(A|B)$ 为在事件 $B$ 发生的条件下的事件 $A$ 发生的条件概率.

乘法公式:

• $P(AB)=P(A)P(A|B)$;
• $P(ABC)=P(A)P(A|B)P(C|AB)$.

性质:

1. 概率的所有性质;
2. 若 $BC=\varnothing$, 则 $P(BC)=0$;
3. $P(B|B)=1$, 若 $C\subset B$, 则 $P(B|C)=1$;
4. 若 $B\subset C$, 则 $P(B|C)=\frac{P(B)}{P(C)}$;
5. $P(B|\Omega )=1$, 若 $P(C)=1$, 则 $P(B|C)=1$ (利用补集来证明).

2 事件独立

$A,B\in \mathcal{F}$, 若 $P(AB)=P(A)P(B)$, 则 $A$, $B$ 独立.

$A,B,C\in \mathcal{F}$, 若

• $P(AB)=P(A)P(B)$;
• $P(AC)=P(A)P(C)$;
• $P(BC)=P(B)P(C)$;
• $P(ABC)=P(A)P(B)P(C)$,

则 $A$, $B$, $C$ 相互独立.

性质:

1. 若 $A$, $B$ 独立, $P(B)>0\iff P(A|B)=P(A)$;
2. 若 $A$, $B$ 独立, $P(B)>0\iff P(A|B)=P(A|\overline{B})\iff P(A|B)+P(\overline{A}|\overline{B})=1$;
3. 若 $A$, $B$ 独立, 则 { A , B ‾ } \{A, \overline{B} \} {A,B}, { A ‾ , B } \{ \overline{A}, B \} {A,B}, { A ‾ , B ‾ } \{ \overline{A}, \overline{B} \} {A,B} 各组事件独立;
4. $\Omega$ 和 $\varnothing$ 与任何事件独立.

3 全概率公式

设事件 $E_1,E_2,...$ 是样本空间 $\Omega$ 的一个分割 (完备事件组) , 即 $E_i$, $i=1,2,...$ 两两互斥且 ${\cup }_{i=1}^{\infty }{E}_i=\Omega$, 则 $P(A)={\sum }_{i=1}^{\infty }P(A|E_i)P(E_i)$.
分解复杂问题分布考虑.

贝叶斯 (Bayesian) 公式:
$$\stackrel{后验概率}{\overbrace{P(E_i|A)}}=\frac{P(A|E_i)\stackrel{先验概率}{\overbrace{P(E_i)}}}{P(A)}=\frac{P(A|E_i)P(E_i)}{{\sum }_{j=1}^{\infty }P(A|E_j)P(E_j)}.$$