概率论01 事件与概率内容总览

1.1 基本概念

• 随机试验（E）：对随机现象进行观察
• 样本点($\omega$)：随机试验每一个可能结果
• 样本空间($\Omega$)：样本点集合，可分为离散和连续样本空间
• 随机事件：样本点集合，是样本空间子集，一定条件下结果不同
• 必然事件：包含所有样本点的事件
• 基本事件：仅由一个样本点组成，每次试验必定 发生且只可能发生一个基本事件。
• 不可能事件：不包含任何样本点的事件

1.2 随机事件

事件间关系

• 包含：A发生必然使B发生，则称A包含于B，记为
  $$\mathbf{A}\subset \mathbf{B}$$
• 相等：同时满足A包含于B，B包含于A
• 互不相容：A,B不能同时发生
• 并：A,B至少一个发生(或)，记为$\mathbf{A}\cup \mathbf{B}$，不一定为A+B
• 交：A,B同时发生（与）,记为$\mathbf{A}\cap \mathbf{B}$ 或$\mathbf{AB}$
• 差：A发生而B不发生，记为A\B ，不一定为A - B
• 对称差：A\B + B\A
• 对立：事件$\Omega \backslash \mathbf{A}$ ,记为$\overline{A}$

注：

1. A，B互不相容，当且仅当AB= 0
2. AB = 0时，将$\mathbf{A}\cup \mathbf{B}$ 写为A+B
3. 当 $\mathbf{A}\subset \mathbf{B}$ 时，可将B\A写为B-A
4. ${\mathbf{A}}_1{\mathbf{A}}_2\cdots {\mathbf{A}}_{\mathbf{n}}$ 取并（至少一个发生），可记为${\bigcup }_{i=1}^n{\mathbf{A}}_{\mathbf{i}}$
5. 事件间运算律，可参见集合论中相关运算律
   对偶公式：
   $$(1)\overline{\mathbf{A}\cup \mathbf{B}}=\overline{\mathbf{A}}\cap \overline{\mathbf{B}}(2)\overline{\mathbf{A}\cap \mathbf{B}}=\overline{\mathbf{A}}\cup \overline{\mathbf{B}}$$
   一个小问题：$\overline{AB}$ 等于$\overline{A}\times \overline{B}$ 吗？
   由上述公式$\overline{AB}=\overline{A\cap B}=\overline{A}\cup \overline{B}$ ,显然不等于$\overline{A}\times \overline{B}$
   而从事件含义上看，$\overline{AB}$ 表示事件A,B不同时发生概率，而$\overline{A}\times \overline{B}$ 表示A不发生且B不发生，含义不同

事件域

$f$ 是由样本空间$\Omega$ 部分子集（不同随机事件）组成的集合族，若$f$ 满足

1. $\Omega \in f$
2. $\mathbf{A}\in f$ 且$\overline{\mathbf{A}}\in f$
3. $\forall n\ge 1,{\mathbf{A}}_{\mathbf{n}}\in f$ ,且${\bigcup }_{i=1}^n{\mathbf{A}}_{\mathbf{i}}\in f$
   则$f$ 为样本空间上事件域，$f$ 对样本空间上事件的有限交并封闭

补个例题：

1. 由事件域定义，$\forall n\ge 1,{\mathbf{A}}_{\mathbf{n}}\in f$ ,且${\bigcup }_{i=1}^n{\mathbf{A}}_{\mathbf{i}}\in f$ ，由 $\mathbf{A},\mathbf{B}\in f$ ,故$\mathbf{A}\cup \mathbf{B}\in f$
2. $\mathbf{AB}\in \mathbf{A}$ ,又$\mathbf{A},\mathbf{B}\in f$ ，$\mathbf{AB}\in f$
3. $\mathbf{A}\backslash \mathbf{B}\in \mathbf{A}$ ,又$\mathbf{A},\mathbf{B}\in f$ ，$\mathbf{A}\backslash \mathbf{B}\in f$
4. $\mathbf{A}\Delta \mathbf{B}\in \mathbf{A}\cup \mathbf{B}$ ,由1有$\mathbf{A}\Delta \mathbf{B}\in f$

1.3 概率及其性质

公理化定义

1. 非负性
   $$P(A)\ge 0$$
2. 正则性
   $$P(\Omega )=1$$
3. 可列可加性(对互不相容事件)
   $$P（\sum _{n=1}^{\infty }{\mathbf{A}}_{\mathbf{n}}）=\sum _{n=1}^{\infty }P（{\mathbf{A}}_{\mathbf{n}}）$$
   注：
   概率是自变量为是集合的函数

性质

1. AB = 0时，$P(\mathbf{A}+\mathbf{B})=P(\mathbf{A})+P(\mathbf{B})$
2. 若$\mathbf{A}\supset \mathbf{B}$，$P(\mathbf{A}-\mathbf{B})=P(\mathbf{A})-P(\mathbf{B})$ ，一般地，$P(\mathbf{A}\backslash \mathbf{B})=P(\mathbf{A})-P(\mathbf{AB})$
3. $P(\mathbf{A}\cup \mathbf{B})=P(\mathbf{A})+P(\mathbf{B})-P(\mathbf{AB})$
   $P(\mathbf{A}\cup \mathbf{B}\cup \mathbf{C})=P(\mathbf{A})+P(\mathbf{B})-P(\mathbf{AB})-P(\mathbf{AC})-P(\mathbf{BC})+P(\mathbf{ABC})$ 推广得庞加莱公式：
   $P({\bigcup }_{i=1}^n{\mathbf{A}}_{\mathbf{i}})={\sum }_{m=1}^n(-1{)}^{m-1}{S}_m$

下面使用数学归纳法证明：
n = 1时，$P(A_1)=S_1$
n = 2时 ，$P({\mathbf{A}}_1\cup {\mathbf{A}}_1)=P({\mathbf{A}}_1)+P({\mathbf{A}}_2)-P({\mathbf{A}}_1{\mathbf{A}}_2)$
若n =m时，该公式成立，则有$P({\bigcap }_{k=1}^m{\mathbf{A}}_{\mathbf{k}})={\sum }_{k=1}^{m}P(A_k)-{\sum }_{i<j}P(A_i{A}_j)+\cdots +(-1{)}^{n+1}P(A_1\cdots A_m)$
n = m+1时，
$$\begin{array}{c}\begin{array}{rl}P(\bigcap _{k=1}^{m+1}{\mathbf{A}}_{\mathbf{k}})& =P(A_{m+1})+P(\bigcap _{k=1}^m{\mathbf{A}}_{\mathbf{k}})-P(A_{m+1}\bigcap _{k=1}^m{\mathbf{A}}_{\mathbf{k}})\\ & =\sum _{k=1}^{m+1}P(A_k)-\sum _{i<j}P(A_i{A}_j)+\cdots +(-1{)}^{m+1}P(A_1\cdots A_{m+1})\end{array}\end{array}$$ 符合原命题结构，得证

概率计算方法

古典方法

条件：

• 样本空间有限
• 每个事件等可能
  如此，事件发生概率与所含样本点个数成正比，用|A|表示事件A所含样本点个数
  $$P(A)=\frac{\mid A\mid }{\mid \Omega \mid }$$
  可结合对立事件等计算概率

例1： 口袋中有n-1个黑球，1个白球，每次随机摸一球，并换入一个黑球求取k次时取到的球是黑球的概率

记$A_k$ 表示第k次时取到的球是黑球，$P(A_1)=\frac{n-1}{n}$
由于一次取到白球后，之后取到的全是黑球，故事件$\overline{A_k}$ 可表示为$A_1{A}_2\dots A_{k-1}\overline{A_k}$ ,则
$$P(A_k)=1-p(\overline{A_k})=1-P(A_1{A}_2\dots A_{k-1}\overline{A_k})=\frac{n^k-(n-1{)}^{k-1}}{n^k}$$

频率方法

用频率稳定值代替概率

几何方法

借助面积/体积等计算
条件：

• 样本空间为n维空间中有界区域，$L(\Omega )>0$
• 每个样本点落在子区域内概率与该区域度量成正比
  用L（A）表示A的度量
  $$P（A）=\frac{L(A)}{L(\Omega )}$$
  例：Buffon投针问题
  平面上有许多间距为a的等距平行 线，随机地往上扔一根长为l(l < a)的针，求针与平行线 相交的概率。
  

条件概率

在给定概率空间$(\Omega ,f,P)$ 中，事件B满足$B\in f$ ,$P(B)>0$，则$\forall A\in f$ 有
$$P(A|B)=\frac{P(AB)}{P(B)}$$

性质：

• 非负： $P(A|B)\ge 0$

• 正则：$P(\Omega |B)=1$

• 可列可加性：
  $$P（\sum _{n=1}^{\infty }{\mathbf{A}}_{\mathbf{n}}|\mathbf{B}）=\sum _{n=1}^{\infty }P（{\mathbf{A}}_{\mathbf{n}}|\mathbf{B}）$$

• 特殊性质
  $P(\overline{A}|B)=1-P(A|B)$
  $P(A\cup C|B)=P(A|B)+P(C|B)-P(A\cap C|B)$

逆用条件概率公式可推导乘法公式
$P(AB)=P(A|B)P(B)$
推广可得$P(A_1{A}_2\cdots A_n)=(P(A_1)P(A2|A1)\cdots P(A_n|A_1\cdots A_{n-1})$

还可推导得出全概率公式
$P(A)=P(A|B)P(B)+P(A|\overline{B})P(\overline{B})$
推广可得,若$B_1\cdots B_k$ 为样本空间f的一组分割，$\forall A\in f$ ,有
$$P(A)=\sum _{i=1}^{k}P(B_i)P(A|B_i)$$
易见$P(A)=P(A|B)P(B)+P(A|\overline{B})P(\overline{B})$ 为上式的特殊形式，其中，$B,\overline{B}$ 为样本空间一组分割

例：抽签

贝叶斯公式

证明思路：$P(B_j|A)=\frac{P(A{B}_j)}{P(A)}$ ,将$P(A{B}_j)$ 逆用条件概率展开，P（A）使用该分割下全概率公式可得
$P（B_j)$ 可视为事件A发生的条件，因而称为先验概率，而$P(B_j|A)$ 可视为已知最后结果，反求先验概率。更通俗的来说，由于A的 发生，有了新的信息后，再对导致 A 发生的原因发生的可能性大小重新加 以修正

独立事件

一般来说，$P(A|B)\ne P(A)$ 则表明事件A的发生受B的影响
P(AB) = P(A)P(B)