学习笔记——概率论与数理统计（第一章）

学习来源：https://www.bilibili.com/video/av36206436/

引言

1. 确定性现象（必然现象）：一定发生（不发生）
2. 随机现象（偶然现象）：可能发生（不发生）
3. 统计规律

一、事件的概率

1.1

1.1.1 随机事件

1. 试验：观察、测量、实验
2. 随机试验：① 在相同的条件下，可以重复；② 结果不止一个；③ 无法预测
3. 事件：每种结果
4. 随机事件：通常用大写英文字母A、B、C等表示
5. 基本事件：相对于实验目的来说，事件不能再分，或者说不必再分
6. 复合事件：由基本事件复合而成
7. 必然事件 $\Omega$ ：一定发生
8. 不可能事件 $\varnothing$ ：一定不发生

1.1.2 样本空间和事件的集合表示

1. 样本空间 $\Omega$ ：所有基本事件的集合
2. 样本点 $\omega$ ：样本空间中的元素
3. 事件的集合表示

1.1.3 事件间的关系

1. 包含
   A $\subset$ B（B $\supset$ A）：A发生必然导致B发生
   $\varnothing$ $\subset$ A $\subset$ $\Omega$ 要区分于 $\omega$ $\in$ $\Omega$
   相等：若A $\subset$ B 且B $\subset$ A，则A = B

2. 并（和）
   A $\cup$ B 或 A + B：A与B中至少有一个发生
   A $\subset$ A + B
   A + A = A
   A + $\varnothing$ = A
   A + $\Omega$ = $\Omega$

3. 交（积）
   A $\cap$ B 或 A B
   A B $\subset$ A
   A A = A
   A $\varnothing$ = $\varnothing$
   A $\Omega$ = A
   无限可列个：按某种规律排成一个序列
   例：全体自然数，全体整数，全体有理数
   实数集（×），直线上的点集（×）

4. 差
   A − B：A发生而B不发生
   A − B = A − A B

5. 互不相容事件
   A B = $\varnothing$：A、B不同时发生
   n个事件：A₁, A₂, . . . , A_n
   A_i A_j = $\varnothing$

6. 对立事件
   A、B不互相容且A $\cup$ B = $\Omega$
   A B = $\varnothing$且A + B = $\Omega$
   A = $\overline{B}$
   B = $\overline{A}$

   $\overline{\overline{A}}$ = A
   A − B = A − A B = A $\overline{B}$

   联系与区别：

   1. 两事件对立，则一定互不相容
   2. 互不相容适用于多个事件，对立只适用于两个事件
   3. 互不相容不能同时发生，可以都不发生；对立有且只有一个发生
      
      

7. 完备事件组
   $A_1,A_2,\cdots ,A_n$两两互不相容，且 ${\cup }_{i=1}^n{A}_i=\Omega$

8. 运算律

   1. 交换
      A $\cup$ B = B $\cup$ A
      A $\cap$ B = B $\cap$ A
   2. 结合
      ( A $\cup$ B ) $\cup$ C = A $\cup$ ( B $\cup$ C )
      ( A $\cap$ B ) $\cap$ C = A $\cap$ ( B $\cap$ C )
   3. 分配
      ( A $\cup$ B ) $\cap$ C = ( A $\cap$ C ) $\cup$ ( B $\cap$ C )
      ( A $\cap$ B ) $\cup$ C = ( A $\cup$ C ) $\cap$ ( B $\cup$ C )
   4. 对偶（口诀：长短换，符号变）
      $\overline{A\cup B}$ = $\overline{A}\cap \overline{B}$
      $\overline{A\cap B}$ = $\overline{A}\cup \overline{B}$

1.2

1.2.1 概率的初等描述

概率：可能性的大小，P ( A )

性质：

1. P( $\Omega$ ) = 1，P( $\varnothing$ ) = 0
2. 0 $\le$ P( A ) $\le$ 1

1.2.2 古典概型（排列组合）

条件：

1. 有限个样本点
2. 等可能性
   $$P(A)=\frac{A的有利样本点}{\Omega 中样本点总数}=\frac{A中包含的基本事件数}{基本事件总数}$$

排列组合
加法原理：几类方案 加法
乘法原理：分几步 乘法
排列：

• 不重复排列
  从 n 个不同的元素中取出 m 个不同的进行排列
  $A_n^m=n(n-1)(n-2)\cdots (n-m+1)=\frac{n!}{(n-m)!}$
  全排列
  $A_n^n=n(n-1)\cdots 3\times 2\times 1=n!$
• 重复排列
  从 n 个不同的元素中取出 m 个进行排列
  $n\times n\times \cdots \times n=n^m$

组合：

• 从 n 个不同的元素中取出 m 个不同元素
  $C_n^m=\frac{A_n^m}{m!}=\frac{n(n-1)\cdots (m-n+1)}{m(m-1)\cdots \times 2\times 1}=\frac{n!}{m!(n-m)!}$
  $C_n^m=C_n^{n-m}$
  $C_n^0=C_n^n=1$

古典概型
性质：

1. 非负性：$0\le P(A)\le 1$
2. 规范性：$P(\Omega )=1,P(\varnothing )=0$
3. 有限可加性：$A_1,A_2,\cdots ,A_n$互不相容
   $P(A_1+A_2+\cdots +A_n)=P(A_1)+P(A_2)+\cdots +P(A_n)$

缺点：

• 有限个结果
• 等可能性

1.2.3 几何概型

线段、平面、立体
$P(A)=\frac{\mu (G)}{\mu (\Omega )}$
$\mu$：几何区域的度量
性质：
几何概率模型具有与古典概率模型相同的性质
几何概率模型具有完全可加性

$P(\bigcup _{i=1}^{\infty }{A}_i)=\sum _{i=1}^{\infty }P(A_i)$

1.2.4 频率与概率

频率：n 次试验，事件 A 发生了 m 次，$\frac{m}{n}$ 称为频率，记作 ${\omega }_n(A)$
性质：

1. 非负性：$0\le {\omega }_n(A)\le 1$
2. 规范性：${\omega }_n(\Omega )=1,{\omega }_n(\varnothing )=0$
3. 可加性：若 $A_1{A}_2,\cdots ,A_m$ 两两互不相容
   ${\omega }_n(A_1+A_2+\cdots +A_m)={\omega }_n(A_1)+{\omega }_n(A_2)+\cdots +{\omega }_n(A_m)$

频率的稳定值称为统计概率

1.2.5 公理化

概率的四种定义：描述性定义、古典概型定义、几何概型定义、统计定义
性质：

• 非负性
• 规范性
• 可加性

公理1（非负性） $0\le P(A)\le 1$
公理2（规范性） $P(\Omega )=1$
公理3（完全可加性） 若 $A_1,A_2,\cdots$ 两两互不相容，则 $P(A_1+A_2+\cdots )=P(A_1)+P(A_2)+\cdots$

性质1
P(Φ)=0
性质2（有限可加性）
若 $A_1,A_2,\cdots ,A_n$ 两两互不相容，则$P(A_1+A_2+\cdots +A_n)=P(A_1)+P(A_2)+\cdots +P(A_n)$
性质3
P( $\overline{A}$ ) = 1 − P( A )
推论：若 $A_1+A_2+\cdots +A_n$ 构成了完备事件组，则$P(\Omega )=P(A_1+A_2+\cdots +A_n)=P(A_1)+P(A_2)+\cdots +P(A_n)=1$
性质4
P ( A − B ) = P ( A ) − P ( A B )
若 $A\supset B$，则 P ( A − B ) = P ( A ) − P ( B ) 且 $P(A)\ge P(B)$
性质5（加法公式）
P( A + B ) = P( A ) + P( B ) − P( AB )

1.3

1.3.1 条件概率

定义：
设 $\Omega$ 是样本空间，AB是两个事件，P ( B ) > 0，在 B 已经发生的条件下 A 发生的概率称为 A 对 B 的条件概率，记作P ( A ∣ B )
P ( A ) 无条件概率 $⟶$ 样本空间 $\Omega$
P ( A ∣ B ) 条件概率 $⟶$ 样本空间 B = ${\Omega }_B$

1. $P(A\mid B)=\frac{n_{AB}}{n_B}$
2. $P(A\mid B)=\frac{n_{AB}/n}{n_B/n}=\frac{P(AB)}{P(B)}$

性质：

• $P(A|B)\ge 0$
• $P(\Omega |B)=1$
• 若 $A_1,A_2,\cdots$两两互不相容，则$P(\sum _{i=1}^{\infty }{A}_i|B)=\sum _{i=1}^{\infty }P(A_i|B)$

$P(A|B)+P(\overline{A}|B)=1$

1.3.2 乘法公式

$P(A|B)=\frac{P(AB)}{P(B)}\Rightarrow P(AB)=P(B)P(A|B)$
$P(B|A)=\frac{P(AB)}{P(A)}\Rightarrow P(AB)=P(A)P(B|A)$
$P(A_1{A}_2\cdots A_n)=P(A_1)P(A_2|A_1)P(A_3|A_1{A}_2)\cdots P(A_n|A_1{A}_2\cdots A_{n-1})$

1.4

1.4.1 全概率公式

设 $A_1+A_2+\cdots +A_n$ 是试验 E 的一个完备事件组，$P(A_i)>0$，$P(B)=\sum _{i=1}^{n}P(A_i)P(B|A_i)$

1.4.2 贝叶斯公式

设 $A_1+A_2+\cdots +A_n$ 是试验 E 的一个完备事件组，B 是试验 E 的一个事件，$P(A_i)>0，P(B)>0，P(A_i|B)=\frac{P(A_k)P(B|A_k)}{\sum _{i=1}^{n}P(A_i)P(B|A_i)}=\frac{P(A_{k}B)}{P(B)}$
$P(A_i)$：先验概率
$P(A_i|B)$：后验概率

1.5

1.5.1 事件的独立性

定义：A 事件发生的概率不受 B 事件发生与否的影响。P ( A ∣ B ) = P ( A )
定理：P ( A ) > 0 , P ( B ) > 0 则 A 和 B 独立的充要条件是P ( AB ) = P ( A ) P ( B )
若 P ( A ) = 0 或 P ( B ) = 0，上述公式仍成立
定义：若P ( A B ) = P ( A ) P ( B ) ，则称A B独立。
定理：

• 如果A B独立，则 A 与 $\overline{B}$，$\overline{A}$ 与 B，$\overline{A}$ 与 $\overline{B}$ 也独立
• P ( A ) = 0 或 P ( A ) = 1，则 A 与任意事件独立

独立：可能性
互不相容：$AB=\varnothing$
P ( A ) > 0，P ( B ) > 0，A B独立和互不相容不能同时成立
n 个事件独立：任选 k 个事件（$k\le n$）均独立

1.5.2 伯努利模型

独立实验序列：$E_1,E_2,\cdots ,E_n$ 独立
n 重独立实验：$\underset{n个}{\underbrace{E,E,\cdots ,E}}$ 独立
伯努利实验：结果只有两种 Ω = { A , A ‾ } \Omega=\{A,\overline{A}\} Ω={A,A}
n 重伯努利实验：n 次，独立，实验结果仅有两种
伯努利实验中，设 A 发生的概率为 P，则 $\overline{A}$ 的概率为1 − P
n 重伯努利实验中，设 A 发生的概率为 P ，A 发生 k 次的概率为：$P_n(k)=C_n^k{P}^k(1-P{)}^{n-k}$（二项概率公式）