01概率论与数理统计笔记 事件与概率——基于《概率论与数理统计》许忠好

1.1样本空间

随机现象： 一定条件下并不总是出现相同结果的现象
特点① 出现结果不止一个
特点② 并不知道哪个结果会出现

会表现出一定的规律性，称之为统计规律性

随机试验：对随机现象进行的试验和观察 记为 E
特征①随机性
特征②可重复进行

样本点： 随机试验的一个可能的结果 记为 ω
样本空间： 随机试验所有样本点组成的集合 Ω（来自于随机试验）
分为离散样本空间和连续样本空间

随机事件

随机事件 随机试验可能结果的集合，是Ω部分元素组成的集合，多用A,B,C表示，也可以用文字表述
本质是集合，是Ω的子集

特殊事件：
①基本事件：只有一个样本点
②必然事件：包含所有样本点 Ω
③不可能事件：不含任何样本点的事件

事件A发生：随机事件出现结果ω包含在随机事件A中，也就是ω∈A

事件的关系
1）包含：A发生导致B发生，A包含于B
$$A\subset B$$
2）相等:A包含于B且B包含于A，A=B
3）互不相容：A与B不能同时发生

事件运算
1）交： A, B至少有一个发生构成的事件
$$A\cup B$$
2）并： A和B同时发生构成的事件
$$A\cap B$$或$$AB$$
3）差：A发生而B不发生的事件
$$A-B$$
4）对立：事件Ω\A称为A的对立事件
$$\overline{A}$$
5）对称差:A\B和B\A的并
$$A△B$$

补充①
$$A\cup B=B\cup A，AB=BA$$
补充②
一般
$$A\backslash B\ne B\backslash A$$
$$A△B=B△A$$
补充③
$$AB=\varnothing \iff A和B互不相容$$
补充④
A,B对立，则一定互不相容
补充⑤
$$\overline{\overline{A}}=A;\overline{A}=B\iff AB=\varnothing 且A\cup B=\Omega$$
补充⑥
$$A△B=(A\backslash B)+(B\backslash A)$$
$$A\cup B=（A△B）+（AB）$$

对偶公式
$$\overline{A\cup B}=\overline{A}\cap \overline{B}\overline{A\cap B}=\overline{A}\cup \overline{B}$$

事件域
Ω是样本空间，𝓕是Ω部分自己组成的集合类
$$\begin{gathered} 1）\Omega \in \mathcal{F} \\ 2）A\in \mathcal{F}蕴含\overline{A}\in \mathcal{F} \\ 3）对于任意n\ge 1，A_n\in \mathcal{F}蕴含{\cup }_{n=1}^{\infty }{A}_n\in \mathcal{F} \end{gathered}$$
𝓕是Ω上的事件域

概率和性质

公理
①非负性：P（A）≥0
②正则性：P（Ω）=1
③可加可列：$$\begin{gathered} A_1\dots \dots A_n互不相容 \\ P(\sum _{n=1}^{\infty }{A}_n)=\sum _{n=1}^{\infty }P(A_n) \end{gathered}$$
P为概率测度或概率

称三元总体（Ω，𝓕，P）是概率空间 Ω是样本空间，𝓕是事件域，P是定义在𝓕上的概率测度

性质
①$$P(\varnothing )=0$$
②对立事件公式
$$P(\overline{A})=1-P(A)$$
③有限可加性
$$AB=\varnothing 有P(A+B)=P(A)+P(B)$$
④可减性$$A\supset B有P(A-B)=P(A)-P(B)$$
⑤单调性
$$A\supset B有P(A)\ge P(B)$$
⑥有界性$$0\le P(A)\le 1$$
⑦加法公式
$$P(A\cup B)=P(A)+P(B)-P(A\cap B)$$
⑧次可加性
$$P(A\cup B)\le P(A)+P(B)$$

1.2概率计算

古典方法

①样本空间Ω是有限集合
②基本事件的发生是等可能的
我们常用|A|代表A所含的样本点个数，定义事件发生的概率为
$$P(A)=\frac{|A|}{|\Omega |}$$

频率方法

①随机试验可大量重复进行
②n（A)表示n次重复实验事件A发生的次数,f_nA为事件发生频率
$$f_{n}A=\frac{n(A)}{n}$$
③f_nA稳定于某一个常数
④频率的稳定值作为A发生的概率

几何方法

①样本空间Ω是n纬空间中的有界区域，L（Ω）>0,我们以L（A）表示A的度量
②每个样本点落在某个子区域的概率和该区域度量大小成正比
$$P(A)=\frac{L(A)}{L(\Omega )}$$

1.3常见概率模型

不返回抽样

N产品，M个不合格，N-M个合格，不返回的任取n个，n中有m个不合格的概率为
$$\frac{C_M^m\cdot C_{N-M}^{n-m}}{C_N^n}$$
又叫超几何模型

返回抽样

N个产品，M个不合格，N-M个合格，有返回的抽取n个，n个中有m个不合格的概率为
$$C_n^m\frac{M^m(N-M{)}^{n-m}}{N^n}=C_n^m(\frac{M}{N}{)}^m(\frac{N-M}{N}{)}^{n-m}$$

盒子模型

n个不同球放入N个不同盒子中，每个盒子放球数量不限，恰有n个盒子各有一球的概率为
$$\frac{P_N^n}{N^n}=\frac{N!}{N^n(N-n)!}$$

配对模型

n个人，n个帽子，一人任取一顶，至少一个人拿对自己帽子概率
也就是有人能拿到自己的帽子即可,所以得应用加法公式A +B+C- AB - BC - AC + ABC……
$$P(\bigcup _{k=1}^n{A}_k)=\sum _{k=1}^n(-1{)}^{k-1}\frac{1}{k!}$$

1.4条件概率

$$P(A|B)=\frac{P(AB)}{P(B)}$$
B出现的条件下，A发生的条件概率
P（B) = 0时候，P（A|B）没有意义
P(A)是A的无条件概率，B = Ω，可以将无条件概率视为条件概率P(A) = P(A | Ω)

B∈𝓕，P（B）>0，定义集函数
$$P_B(A)=P(A|B)$$

P_B性质
1）非负性
2）正则
3）可列可加

性质

①
$$P(\overline{A}|B)=1-P(A|B)$$
②
$$P(A\cup C|B)=P(A|B)+P(C|B)-P(AC|B)$$
③
$$P(A\backslash C|B)=P(A|B)-P(AC|B)$$

特殊性质
①
$$P(B|B)=1$$
②$$若P(B)=1,P(A|B)=P(A)$$
③$$若AB=\varnothing ,P(A|B)=0$$
④$$若A\subset B，P(A|B)=\frac{P(A)}{P(B)}$$

乘法公式

①$$P(AB)=P(A)P(B|A)=P(B)(A|B)$$
②$$P(A_1\dots \dots A_n)=P(A_1)P(A_2|A_1)\dots \dots P(A_n|A_1\dots \dots A_{n-1})$$
乘法公式的条件概率版本
$$P(A_1\dots \dots A_n|B)=P(A_1|B)P(A_2|A_{1}B)\dots \dots P(A_n|A_1\dots \dots A_{n-1}B)$$

全概率公式

$$P(A)=P(A|B)P(B)+P(A|\overline{B})P(\overline{B})$$
$$P(A)=P(A|B_1)P(B_1)+\dots \dots +P(A|B_{n+1})P(B_{n+1})$$

Bayes公式

$$P(B_j|A)=\frac{P(B_j)P(A|B_j)}{{\sum }_{k=1}^{n}P(B_k)P(A|B_k)}(j=1\dots \dots n)$$

1.5独立性

两个事件相互独立
$$P(AB)=P(A)\cdot P(B)$$

多个事件独立
两两独立
$$P(A_i{A}_j)=P(A_i)P(A_j)$$
三三独立
$$P(A_i{A}_j{A}_k)=P(A_i)P(A_j)P(A_k)$$

若事件A1……An相互独立
$$P(\bigcup _{k=1}^n{A}_k)=1-\prod _{k=1}^n(1-P(A_k))$$

补充

排列组合

袋子模型 (占位模型
n球任取r个球（r个球放到盒子中
1）取球有放回，讲次序 （球有区别，装的球不限
$$|\Omega |=n^r$$
2)不放回，讲次序 （球有区别，最多一个球
$$|\Omega |=P_n^r$$
3)不放回，不讲次序 （球没区别，最多一个球
$$|\Omega |=C_n^r$$
4)有返回，不讲次序 （球没区别，装球不限
【用隔板模型理解，r个球分割成n个区间，也就是n+1个隔板中有n-1个隔板（两个放在边缘）给你任意插在r+ (n - 1)插入点（每次插入一个隔板会加一个新的插入点），球数量代表取得次数
【反过来，把r看成球，分配r个球到r+n-1个空隙也是同理
$$|\Omega |=C_{n+r-1}^r$$