概率论 —— 随机事件与概率

• 参考：张宇高等数学基础30讲

---

1. 基本概念

1.1 随机试验

• 随机试验/试验 是满足以下三个条件的试验 ，记作 $E$

  1. 试验可以在相同的条件下重复进行
  2. 试验所有的可能结果都是明确可知的，并且不止一个
  3. 每一次试验会出现哪一个结果，事前并不能确定

• 我们通过研究随机试验来研究随机现象，抛硬币、掷色子都是随机试验

1.2 随机事件

• 在一次试验中可能出现，也可能不出现的结果称为 随机事件/事件，用大写字母 $A,B,C$ 等表示
  1. 必然事件 $\Omega$：每次试验中一定发生的事件
  2. 不可能事件 $\varnothing$：每次试验中一定不发生的事件
• 随机事件在一次试验中是否发生虽然不能事前确定，但是在大量重复试验的情况下，它的发生具有一定的统计规律性，概率论研究的就是这种规律性

1.3 样本空间

• 随机试验的每一个可能（不能再分）结果称为 样本点，记作 $w$
  1. 样本点的全体组成的集合称为 样本空间/基本事件空间，记作 Ω = { w } \Omega = \{w\} Ω={w}
  2. 由一个样本点构成的事件称为 基本事件
  3. 随机事件 $A$ 总是由若干个基本事件组成，即 $A\subset \Omega$

2. 事件的关系与运算

2.1 定义

1. 包含：如果事件 $A$ 发生必导致事件 $B$ 发生，则称事件 $B$ 包含 事件 $A$（或 $A$ 被 $B$ 包含），记为 $A\subset B$
2. 相等：如果 $A\subset B$ 且 $B\subset A$，则称事件 $A$ 和 $B$ 相等，记为 $A=B$。实际上也就是说，$A$ 和 $B$ 由完全相同的一些试验结果构成，它不过是同一事件表面上看起来两个不同的说法而已
3. 事件的积/交：称 “事件 $A$ 与事件 $B$ 同时发生” 这一事件为事件 $A$ 与 $B$ 的 积/交，记为 $A\cap B$ 或 $AB$
   
4. 事件的和/并：称 “事件 $A$ 与事件 $B$ 至少有一个发生” 这一事件为事件 $A$ 与 $B$ 的 和/并，记为 $A\cup B$
   
5. 事件的差：称 “事件 $A$ 发生而事件 $B$ 不发生” 这一事件为事件 $A$ 与 $B$ 的 差，记为 $A-B$
6. 逆事件：称 “事件 $A$ 不发生” 这一事件为事件 $A$ 的 逆事件 /对立事件，记为 $\bar{A}$，由定义易知
   $$\begin{array}{rl}& A-B=A-AB=A\bar{B}\\ & B=\bar{A}\iff AB=\varnothing 且A\cup B=\Omega \end{array}$$
7. 相容、互斥：若 $AB\ne \varnothing$，则称事件 $A$ 和 $B$ 相容；若 $AB=\varnothing$，则称事件 $A$ 和 $B$ 互不相容/互斥，如果一些事件中任意两个都互斥，则称这些事件是 两两互斥 的
8. 完备事件组：若有限个/可列个事件 $A_1,A_2,...,A_n(,...)$ 满足 ${\bigcup }_{i=1}^n{A}_i=\Omega$ 或 ${\bigcup }_{i=1}^{\infty }{A}_i=\Omega$, $A_i{A}_j=\varnothing (i\ne j)$，则称这些事件构成一个 完备事件组
   

2.2 运算法则

1. 吸收律：若 $A\subset B$，则 $A\cup B=B$，$A\cap B=A$
2. 交换律：$\begin{array}{r}A\cup B=B\cup A\\ A\cap B=B\cap A\end{array}$
3. 结合律：$\begin{array}{r}(A\cap B)\cap C=A\cap (B\cap C)\\ (A\cup B)\cup C=A\cup (B\cup C)\end{array}$
4. 分配律：$\begin{array}{r}A\cap (B\cup C)=(A\cap B)\cup (A\cap C)\\ A\cup (B\cap C)=(A\cup B)\cap (A\cup C)\\ A\cap (B-C)=(A\cap B)-(A\cap C)\end{array}$
5. 对偶律/德摩根律：$\begin{array}{r}\overline{A\cup B}=\overline{A}\cap \overline{B}\\ \overline{A\cap B}=\overline{A}\cup \overline{B}\end{array}$
   

3. 概率的定义

3.1 描述性定义

• 通常将随机事件 $A$ 发生的可能性大小的度量（非负值），称为事件 $A$ 发生的概率，记为 $P(A)$

3.2 统计性定义

• 在相同条件下做重复试验，事件 $A$ 出现的次数 $k$ 和总试验次数 $n$ 之比 $\frac{k}{n}$，称为事件 $A$ 在这 $n$ 次试验中出现的频率。当试验次数充分大时，频率将 “稳定” 于某个常数 $p$ 附近，$n$ 越大，频率偏离这个常数 $p$ 的可能性越小。这个常数 $p$ 就称为事件 $A$ 的概率
  $$\underset{n\to \infty }{\lim }频率=概率$$
• 注意：频率并非概率本身，只是概率的估计

3.3 公理化定义

• 设随机试验的样本空间为 $\Omega$，如果对每一个事件 $A$ 都有一个确定的实数 $P(A)$，且事件函数 $P(\cdot )$ 满足：

  1. 非负性：$P(A)\ge 0$
  2. 规范性：$P(\Omega )=1$
  3. 可列可加性：对任意可列个互斥事件 $A_1,A_2,...,A_n,...$ （即 $A_i{A}_j=\varnothing ,i\ne j$），有
     $$P(\bigcup _{i=1}^{\infty }{A}_i)=\sum _{i=1}^{\infty }P(A_i)$$

  则称 $P(\cdot )$ 为 概率，$P(A)$ 为事件 $A$ 的概率

• 注：数学上的 “公理”，就是一些不加证明而承认的前提，上述公理化定义界定了概率这个概念所必须满足的一些一般性质

4. 古典概型和几何概型

4.1 古典概型

• 若随机试验的概率模型的样本空间满足以下条件，称之为 古典概型
  1. 只有有限个样本点（基本事件）
  2. 每个样本点（基本事件）发生的可能性都一样
• 设基本事件数为 $n$，事件 $A$ 包含 $k$ 个基本事件，则古典概型计算出的事件概率（称为 古典概率）为
  $$P(A)=\frac{k}{n}=\frac{事件A所包含的基本事件的个数}{基本事件总数}$$
• 示例：掷骰子
• 计算
  
  随机分配类题目
  简单随机抽样类题目
  

4.2 几何概型

• 若随机试验的概率模型的样本空间满足以下条件，称之为 几何概型
  1. 样本空间（基本事件空间）$\Omega$ 是一个可以度量的有界区域
  2. 每个样本点（基本事件）发生的可能性向都一样，即样本点罗落入 $\Omega$ 的某个可度量子区域 $S$ 的可能性大小与 $S$ 的几何度量成正比，而与 $S$ 的位置以及形状无关
• 在几何概型随机试验中，如果 $S_A$ 是样本空间 $\Omega$ 的一个可度量的子区域，则事件 A = { 样 本 点 落 入 区 域 S A } A = \{样本点落入区域 S_A\} A={样本点落入区域SA​} 的概率（称为 几何概率）为
  $$P(A)=\frac{S_A的几何度量}{\Omega 的几何度量}$$
• 示例：操场上随机位置掉下个馅饼，你举着饭盒去接，那么你接到馅饼的概率为 $饭盒面积/操场面积$
  
• 计算
  

5. 概率的基本性质与公式

5.1 性质

1. 有界性：对于任意事件 $A$，有 $0\le P(a)\le 1$ 且 $P(\varnothing )=0,P(\Omega )=1$。
   $$\begin{gathered} P(A)=0\nRightarrow A=\varnothing \\ P(A)=0\Leftarrow A=\varnothing \end{gathered}$$
   注意，不可能事件 $\varnothing$ 发生的概率一定为 0，但概率为 0 的事件不一定是不可能事件（即有可能发生），这可以从几何概型角度思考，样本空间中上一个点有着无限小的长度、面积、体积…

2. 单调性：设 $A,B$ 是两个事件，若 $A\subset B$，则有
   $$\begin{array}{rl}& P(B-A)=P(B)-P(BA)=P(B)-P(A)\\ & P(B)\ge P(A)\end{array}$$
   注意，虽然 $A$ 真包含于 $B$，但 $P(B)\ge P(A)$ 的等号依然可取，这也可以从几何概型的角度考虑，从可度量区域中扣去几个点，其几何度量不变

5.2 公式

• 对于任意事件 $A,B$
  1. 逆事件概率公式：$P(\overline{A})=1-P(A)$
  2. 加法公式：$P(A\cup B)$ = P(A) +P(B) - P(AB)
     
  3. 减法公式：$P(A-B)=P(A)-P(AB)=P(A\overline{B})$
  4. 条件概率公式：$P(B|A)=\frac{P(AB)}{P(A)}$
     
  5. 乘法公式：$\begin{array}{rl}& P(AB)=P(A)P(B|A)\\ & P(A_1{A}_2...A_n)=P(A_1)P(A_2|A_1)P(A_3|A_1{A}_2)...P(A_n|A_1{A}_2...A_{n-1})\end{array}$
  6. 全概率公式：若 ${\bigcup }_{i=1}^n{A}_i=\Omega$，$A_i{A}_j=\varnothing (i\ne j),P(A_i)\ge 0$ （即 $A_i$ 是完备事件组），则对任意事件 $B$，有
     $$B=\bigcup _{i=1}^n{A}_{i}B,P(B)=\sum _{i=1}^{n}P(A_i)P(B|A_i)$$
     可以看做每个 $A_i$ 都是 $B$ 发生的原因之一，相当于 “由因找果”，证明：
     $$\begin{array}{rl}P(B)=P(B\Omega )& =P(B(A_1\cup A_2\cup ...\cup A_n))\\ & =P(B{A}_1\cup B{A}_2\cup ...\cup B{A}_n)\\ & =P(B{A}_1)+P(B{A}_2)+...+P(B{A}_n)\\ & =\sum _{i=1}^{n}P(A_i)P(B|A_i)\end{array}$$
  7. 逆概率公式/贝叶斯公式：若 ${\bigcup }_{i=1}^n{A}_i=\Omega$，$A_i{A}_j=\varnothing (i\ne j),P(A_i)\ge 0$ （即 $A_i$ 是完备事件组），则对任意事件 $B$，只要 $P(B)>0$，就有
     $$P(A_j|B)=\frac{P(A_j)P(B|A_j)}{{\sum }_{i=1}^{n}P(A_i)P(B|A_i)}(j=1,2,...,n)$$
     可以看做是已知 $B$ 事件发生，反过来看 $B$ 是由各个条件 $A_j$ 引起的概率，相当于 “执果找因”