概率论复习笔记——条件概率、全概率、贝叶斯公式及其应用

条件概率

定义 设$A,B$是两个事件，且$P(A)>0$,称 $P(B|A)=\frac{P(AB)}{P(A)}$为在事件A发生的条件下事件B发生的条件概率

乘法定理

乘法定理 设$P(A)>0$,则有 $P(AB)=P(B|A)P(A)$

全概率公式和贝叶斯公式

样本空间

定义 设S为试验E的样本空间，$B_1,B_2,...,B_n$为E的一组事件，若
$(i)B_i{B}_j=\varphi ,i̸=ji,j=1,2,...,n$
$(ii)B_1\bigcup B_2\bigcup ...\bigcup B_n=S$
则称$B_1,B_2,...,B_n$为样本空间S的一个划分
若$B_1,B_2,...,B_n$是样本空间的一个划分，那么，对每次试验，事件$B_1,B_2,...,B_n$中必有且只有一个发生.

全概率公式

定理 设试验E的样本空间为S，A为E的事件，$B_1,B_2,...,Bn$为S的一个划分,且$P(B_i)>0(i=1,2,...,n)$则
$$P(A)=P(A|B_1)P(B_1)+P(A|B_2)P(B_2)+...+P(A|B_n)P(B_n)$$

实际问题中$P(A)$不易直接求得，但却容易找到S的一个划分$B_1,B_2,...,B_n$，且$P(B_i)$和$P(A|B_i)$或为已知，或容易求得，那么就可以根据全概率公式求出$P(A)$

贝叶斯公式

定理 设试验$E$的样本空间为$S.A$为$E$的事件，$B_1,B_2,...,B_n$为$S$的一个划分，且$P(A)>0,P(B_i)>0i=1,2,...,n$，则
$$P(B_i|A)=\frac{P(A|B_i)P(B_i)}{\sum _{j=1}^{n}P(A|B_j)P(B_j)},i=1,2,...,n.$$

上式被称为贝叶斯（Bayes）公式
证      ~~~~      由条件概率的定义以及全概率公式即得
$$P(B_i|A)=\frac{P(B_{i}A)}{P(A)}=\frac{P(A|B_i)P(B_i)}{\sum _{j=1}^{n}P(A|B_j)P(B_j)},i=1,2,...,n.$$

特别的，取$n=2$，并将$B_1$记为$B$，此时，$B_2$就是$\overline{B}$，那么，全概率公式和贝叶斯公式分别成为
$$P(A)=P(A|B)P(B)+P(A|\overline{B})P(\overline{B})$$
$$P(B|A)=\frac{P(AB)}{P(A)}=\frac{P(A|B)P(B)}{P(A|B)P(B)+P(A|\overline{B})P(\overline{B})}$$

相关应用

  例1  对以往数据分析结果表明，当机器调整得良好时，产品的合格率为$98\%$，而当机器发生某种故障时，其合格率为$55\%.$每天早上机器开动时，机器调整良好的概率为$95\%.$试求已知某日早上第一件产品是合格品时，机器调整良好的概率是多少？

   解  设$A$为事件“产品合格”，$B$为事件“机器调整良好”.已知$P(A|B)=0.98,P(A|\overline{B})=0.55,P(B)=0.95,P(\overline{B})=0.05$，所需求的概率为$P(B|A).$由贝叶斯公式
$$P(B|A)=\frac{P(A|B)P(B)}{P(A|B)P(B)+P(A|\overline{B})P(\overline{B})}$$$$=\frac{0.98\times 0.95}{0.98\times 0.95+0.55\times 0.05}=0.97$$
这就是说，当生产出第一件产品是合格品时，此时机器调整良好的概率为$0.97\%$，这里概率$95\%$是由以往的数据分析得到的，叫做先验概率.而在得到信息（即生产出的第一件产品是合格品）之后再重新加以修正的概率（即$0.97$）叫做后验概率

  例2（期中小测题目）  袋中装有$m$枚正品硬币，$n$枚次品硬币（次品硬币的两面都印有国徽）。在袋中任取一枚，将其投掷r次，已知每次都是国徽。问这枚硬币是正品的概率是多少？

   解 显然这道题是要用到贝叶斯公式，可以先把已知的条件写出来，再进一步分析.
   设$A$为事件“取到正品”，$B$为事件“取到次品”，$C$为事件“将硬币抛$r$次，每次都是国徽”. 则有
$$P(A)=\frac{m}{m+n}P(B)=\frac{n}{m+n}$$
$$P(C|A)=\frac{1}{2^r}P(C|B)=1$$
  题目转换为求$P(A|C)$的值,由贝叶斯公式，有
$$P(A|C)=\frac{P(AC)}{P(C)}=\frac{P(C|A)P(A)}{P(C|A)P(A)+P(C|B)P(B)}$$
$$=\frac{\frac{1}{2^r}\frac{m}{m+n}}{\frac{1}{2^r}\frac{m}{m+n}+\frac{n}{m+n}}=\frac{m}{m+n\cdot 2^r}$$