[笔记] 事件独立、对立、互斥，全概率、条件概率、贝叶斯

独立

• 对于任意两个事件$A$ 与$B$，如果$P(AB)=P(A)P(B)$ 成立，则称事件$A$ 与事件$B$相互独立，简称为独立。

对立

• 如果事件$A$ 和事件$B$在任何一次试验中有且仅有一个发生，即 $A\cup B=\Omega$ ，且 $A\cap B=\varnothing$，那么称事件$A$ 与事件$B$互为对立。把事件$A$的对立事件记为$\overline{A}$。

互斥

• 对于一个随机试验的两个事件$A$、$B$而言，如果事件 $A$与事件$B$ 不能同时发生，也就是说$A\cap B$是一个不可能事件，即$A\cap B=\varnothing$，则称事件$A$ 与事件$B$互斥（或互不相容）。

notes

• 如果事件$A$ 或事件$B$发生的概率都不为0，那么：互斥不独立，独立不互斥。
• 零概率事件与不可能事件是不同的。
• 1概率事件与必然事件是不同的。
• 零概率事件与任何事件独立；1概率事件与任何事件独立。
• 不可能事件与任何事件互斥。

全概率公式

$$P(B)=\sum _{i=1}^{n}P(A_i)P(B|A_i)$$

• 若事件$A_1$，$A_2$，…，$A_n$构成一个完备事件组且都有正概率，则对任意一个事件$B$都有此公式成立。

条件概率公式

• 已知事件$B$已经发生，求事件$A$发生的概率。
  $$P(A|B)=\frac{P(AB)}{P(B)}=\frac{P(B|A)P(A)}{P(B)}$$

贝叶斯公式

$$P(A|B)=\frac{P(B|A)P(A)}{\sum _{i=1}^{n}P(A_i)P(B|A_i)}$$

联合概率链式法则

$$P(A,B,C,D)=P(A|B,C,D)\ast P(B|C,D)\ast P(C|D)\ast P(D)$$

$$P(X_1,X_2,\cdot \cdot \cdot ,X_n)=P(X_1|X_2,X_3,\cdot \cdot \cdot ,X_n)\ast P(X_2|X_3,X_4,\cdot \cdot \cdot ,Xn)\cdot \cdot \cdot P(X_n-1|X_n)\ast P(X_n)$$

Reference

1. 事件的互斥、对立与独立
2. 独立和互斥是什么关系？独立和不相关是什么关系？
3. 浅谈全概率公式和贝叶斯公式
4. 一个例子搞懂条件概率、先验概率、后验概率、全概率公式和贝叶斯公式
5. 贝叶斯估计、最大似然估计、最大后验概率估计
6. 概率论的链式法则