概率论与数理统计

集合的运算

$A-B=A\bar{B}=A(\Omega -B)=A\Omega -AB=A-AB$
事件(集合)的运算规则.jpg

概率的公理化定义

• 任何事件的概率 $0\le P(A)\le 1$;

• $\Omega 为完备事件组$,$P(\Omega )=1$;

• 互不相容的事件$A_1,A_2,...A_n$:

任意两个事件$A_i,A_j$满足$A_i\cap A_j=\Phi$，则有：
$$P(\bigcup _{k=1}^n{A}_k)=\sum _{k=1}^{n}P(A_k)$$

• $\Phi$为空集，$P(\Phi )=0$;
• 对于任意事件$A$，$P(A)+P(\bar{A})=P(A\cup \bar{A})=1$;
• 对于任意两个事件$A,B$有: $P(A\cup B)=P(A)+P(B)-P(AB)$;
• 对于任意两个事件$A,B$有: $P(A-B)=P(A\bar{B})=P(A)-P(AB)$;
• $P(AB)+P(\bar{A}B)=P(AB\cup \bar{A}B)=P(B)$;

排列公式

$0!=1$
$P_n^m=n(n-1)(n-2)\cdots (n-m+1)=\frac{n!}{(n-m)!}$
$A_n^m=n(n-1)(n-2)\cdots (n-m+1)=\frac{n!}{(n-m)!}$

组合公式

$C_n^0=C_n^n=1$
$C_n^1=C_n^{n-1}=n$

当$m>n$时,$C_n^m=0$

$C_n^m=\frac{A_n^m}{m!}=\frac{n!}{m!(n-m)!}$
$C_n^m=C_n^{n-m}$
$C_{n+1}^m=C_n^m+C_n^{m-1}$
$C_n^0+C_n^1+C_n^2+\cdots +C_n^n=2^n$
$C_n^0+C_n^2+C_n^4=C_n^1+C_n^3+C_n^5=2^{n-1}$

条件概率的定义

设有两个事件A，B，P(B)≠0, 在给定B发生的条件下，A发生的概率记为 P(A|B),则:
$$P(A|B)=\frac{P(AB)}{P(B)}$$

$P(A|B)+P(\bar{A}|B)=1$

证明过程:
$\because P(A|B)=\frac{P(AB)}{P(B)}$
并且 $P(\bar{A}|B)=\frac{P(\bar{A}B)}{P(B)}$
$\therefore P(A|B)+P(\bar{A}|B)=\frac{P(AB)+P(\bar{A}B)}{P(B)}=\frac{P(AB\cup \bar{A}B)}{P(B)}=\frac{P(B\Omega )}{P(B)}=1$

如果 P(B) ＞0, 那么有如下:

1. 0 ≤P(A|B)≤1
2. P(Ω|B) = 1

如果有互不相容的事件$A_1,A_2,...A_n$
$P({\bigcup }_{k=1}^n{A}_k|B)={\sum }_{k=1}^{n}P(A_k|B)$

设$A_1,A_2,A_3$三个事件,若$P(A_1{A}_2{A}_3)>0$则有:
$P(A_1\cap A_2\cap A_3)=P(A_1{A}_2{A}_3)$
$P(A_1{A}_2{A}_3)=P(A_1)P(A_2|A_1)P(A_3|A_1{A}_2)$

条件概率两个性质:

• $P(A-B|C)=P(A|C)-P(AB|C)=P(A\bar{B}|C)$
• $P(A\cup B|C)=P(A|C)+P(B|C)-P(AB|C)$

全概率公式

设 $B_1,B_2,....B_n$ 是Ω的完备事件组, 并且它们任意两个都是互不相容的, 那么有:
$$P(A)=\sum _{k=1}^{n}P(A{B}_k)=\sum _{k=1}^{n}P(B_k)P(A|B_k)$$

从上面的公式可以推导出贝叶斯公式，如下：
$$P(B_k|A)=\frac{P(B_k)P(A|B_k)}{{\sum }_{k=1}^{n}P(B_k)P(A|B_k)}$$

贝氏定理

由上面的条件概率公式可以推出:
$$P(A|B,C)=P(A)\ast P(B|A)\ast P(C|A,B)/(P(B)\ast P(C|B))$$

这里的:
$P(A|B,C)=P(A|BC)$
证明过程:
$\because P(A|B,C)=\frac{P(A,B,C)}{P(B,C)}$
$\therefore P(A|B,C)=\frac{P(A)P(B|A)P(C|A,B)}{P(B,C)}$
$\therefore P(A|B,C)=\frac{P(A)P(B|A)P(C|A,B)}{P(B)\ast P(C|B)}$