1 概率论基本概念

1 随机事件

随机试验三要素:

1. 可在同等条件下重复;
2. 结果是可被事先预测的多种可能;
3. 试验前结果不确定.

2 样本空间

样本空间 (Sample Space) : 随机试验 $E$ 的所有可能结果的集合, 记作 Ω = { ω } \Omega = \{ \omega \} Ω={ω}.

样本点 (Sample Point) : 一个样本空间众多的每个元素.

• 样本空间中样本点的个数为有限个或可列个的情况为离散样本空间 (Discrete Sample Space) ;
• 样本空间中样本点的个数为不可列无限个的情况为连续样本空间 (Continuous Sample Space) ;

3 事件运算

事件 (Event) : 某些基本事件构成的集合. 为样本空间的子集.

德摩根定律 (De Morgan’s Laws) :

• $\overline{A\cup B}=\overline{A}\cap \overline{B}$;
• $\overline{A\cap B}=\overline{A}\cup \overline{B}$;
• $\overline{{\cup }_{i=1}^n{A}_i}={\cap }_{i=1}^n\overline{A_i}$;
• $\overline{{\cap }_{i=1}^n{A}_i}={\cup }_{i=1}^n\overline{A_i}$ ($n\to +\infty$ 也成立) .

4 概率

古典概型 (Classical Probability) : 样本空间 $S$ 中有有限个等可能的两两互不相容的基本事件, 个数记为 # { S } \# \{ S \} #{S}, 事件 $A$ 发生的概率为 P ( A ) = # { A } # { S } P(A) = \frac{\# \{ A \} }{\# \{ S \} } P(A)=#{S}#{A}​.

例:

• 有重复的排列:
  • $n$ 个不同小球有放回取出$r$次: $n^r$;
  • $n$ 个不同小球有放回放入$r$个格子: $r^n$;
• 有重复的组合:
  • $n$ 个相同小球放入 $r$ 个格子 (可空) : $C_{n+r-1}^n$;
  • $n$ 个相同小球放入 $r$ 个格子 (不可空) : $C_{n-1}^{r-1}$.

几何概型 (Geometric Probability) : $P(Ag)=\frac{g的测度}{\Omega 的测度}$.

频率 (Frequency) 的性质:

1. $0\le f_n(A)\le 1$;
2. $f_n(S)=1$;
3. 若$A_1,A_2,...,A_k$两两互斥, $f(A_1\cup A_2\cup A_k)=f_n(A_1)+f_n(A_2)+...+f_n(A_k)$.

例: 蒲丰投针

压线概率: $P=\frac{1/2{\int }_0^{\pi }l\sin (\varphi )d\varphi }{1/2a\pi }n=\frac{2l}{\pi a}$.

事件 $\sigma$ 域: $\mathcal{F}$ 是由样本空间 $\Omega$ 的子集组成的集类, 满足:

1. $\Omega \in \mathcal{F}$;
2. 若 $A\in \mathcal{F}$, 则 $\overline{A}\in \mathcal{F}$ ( “取补” 运算封闭) ;
3. 若 $A_n\in \mathcal{F}$, $n=1,2,...$, 则 ${\cup }_{n=1}^{\infty }{A}_n\in \mathcal{F}$ ( “可列并” 运算封闭) .

则称 $\mathcal{F}$ 是 $\sigma$ 域, $\mathcal{F}$ 中的元素为事件.

一维Borel $\sigma$ 域: 在全体实数 ${\mathbb{R}}^1$ 中, 由一切形为 $[a,b)$ 的有界左闭右开区间构成的集类所产生的 $\sigma$ 域. 记之为 ${\mathcal{B}}_1$. ${\mathcal{B}}_1$ 中的集合为一维Borel点集.
${\mathcal{B}}_1$ 包括了实数中 (大概) 所有感兴趣的集.

概率 (Probability) : 设 $\Omega$ 为一个样本空间, $\mathcal{F}$ 为的某些子集组成的一个事件 $\sigma$ 域. 如果对任一事件 $A\in \mathcal{F}$, 定义在 $\mathcal{F}$ 上的一个实值函数 $P(A)$ 满足:

1. 非负性: $P(A)\ge 0,\forall A\in \mathcal{F}$;
2. 规范性: $P(\Omega )=1$;
3. 可列可加性: $A_i\in \mathcal{F}$, $i=1,2,...$ 且两两互不相容, 则 $P(A_1+A_2+...)=P(A_1)+P(A_2)+...$ ;

则称 $P(A)$ 为事件 $A$ 的概率, 称三元总体 $(\Omega ,\mathcal{F},\mathcal{P})$ 为概率空间 (Probability Space) .
所以概率$P$是个集合函数, 定义域为 $\mathcal{F}$, 值域为 $[0,1]$.

概率的性质:

1. $P(\varnothing )=0$ (由可列可加性) ;
2. 有限可加性: $P(A_1+A_2+...+A_n)=P(A_1)+P(A_2)+...P(A_n)$ (由可列可加性及性质1) ;
3. $P(\overline{A})=1-P(A)$;
4. $\forall A,B\in \mathcal{F}$, $P(A-B)=P(A)-P(AB)$;
5. 若 $A\subset B$, 则$P(B-A)=P(B)-P(A)$;
6. $P(A\cup B)=P(A)+P(B)-P(A\cap B)$;
7. 容斥原理:
   $$\begin{array}{rl}P({\cup }_{i=1}^n{E}_i)=& \sum _{i=1}^{n}P(E_i)-\sum _{i_1<i_2}P(E_{i_1}{E}_{i_2})\\ & \\ & +...+(-1{)}^{n}P(E_1{E}_2...E_n).\end{array}$$

推论:

1. 若 $A\subset B$, 则 $P(A)\le P(B)$;
2. 布尔不等式: $P(A\cup B)\le P(A)+P(B)$;
3. Bonferroni不等式: $P(AB)\ge P(A)+P(B)-1$.