经典摘录-贝叶斯公式

本博客已迁移至 SnailDove’s Blog, 查看本文，请点击此处

说明：全文摘自 Introduction to probability, 2nd Edition

本文讨论条件概率定律的应用，首先引入一个计算事件概率的定理。

全概率公式

设 $A_1, A_2, ... , A_n$ 是一组互不相容的事件，它形成样本空间的一个分割（每个试验结果必定使得其中一个事件发生！）。又假定对每个 $i, P(A_i) > 0$ 。则对任何事件 $B$ ，下列公式成立

$$\begin{eqnarray*} P(B) &=& P(A_1\cap B )+\cdots+P(A_n\cap B) \\ &=& P(A_1)P(B|A_1)+\cdots+P(B)P(B|A_n) \end{eqnarray*}$$
下图是全概率公式的图示和证明。直观上，将样本空间分割成若干事件 $A_i$ 的并（ $A_1, \cdots, A_n$ 形成样本空间的一个分割）然后任意事件 $B$ 的概率等于事件 $B$ 在 $A_i$ 发生的情况下的条件概率的加权平均，而权重刚好等于这些事件 $A_i$ 的无条件概率。这条定理的一个主要应用是计算事件 $B$ 的概率。直接计算事件 $B$ 的概率有点难度，但是若条件概率 $P(B|A_i)$ 是已知的或是很容易推导计算时，全概率定理就成为了计算 $P(B)$ 的有力工具。应用这条定理的关键是找到合适的分割 $A_1,\cdots, A_n$ ，而合适的分割又与问题的实际背景有关。

由于事件 $A_1, A_2, \cdots, A_n$ 形成一个样本空间的一个分割，事件 $B$ 可以分解成不想交的 $n$ 个事件的并，即：

$$B=(A_!\cap B)\cup\cdots\cup(A_n\cap B) \quad (1)$$
利用可加定理，得到：

$$P(B) = P(A_1 \cap B)+\cdots+P(A_n \cap B) \quad (2)$$
利用条件概率的定义，得到：

$$P(A_i\cap B) = P(A_i)P(B|A_i) \quad (3)$$
将 $(3)$ 式子代入 $(2)$ 式子中得到：

$$P(B)=P(A_1)P(B|A_1)+\cdots+P(A_n)P(B|A_n)$$
也可以用等价的序列树形图来说明全概率定理（如上右边图）：叶子 $A_i \cap B$ 的概率等于由叶子到根部上的概率的乘积 $P(A_i)P(B|A_i)$ 。而事件 $B$ 由图上显示的3个叶子组成，将它们的概率相加就得到 $P(B)$ 。

全概率公式例子

例 1.13 你参加一个棋类比赛，其中 $50\%$ 是一类棋手，你赢他们的概率为 $0.3\%$ ； $25\%$ 是二类棋手，你赢他们的概率是 $0.4$ ；剩下的是三类棋手，你赢得他们的概率是 $0.5$ 。从他们中间随机地选一位棋手与你比赛，你胜算的概率有多大？

记 $A_i$ 表示与你下棋的棋手的类别。依题意

$$P(A_1)=0.5,\quad P(A_2) =0.25, \quad P(A_3) = 0.25$$
记 $B$ 为你赢得比赛的事件，那么得到：

$$P(B|A_1)=0.3,\quad P(B|A_2)=0.4,\quad P(B|A_3)=0.5$$
那么利用全概率公式，你在不比赛中胜出的概率为：

P(B)===P(A1)P(B|A1)+P(A2)P(B|A2)+P(A3)P(B|A3)0.5⋅0.3+0.25⋅0.4+0.25⋅0.50.375 P