概率论与数理统计（一）

笔记总目录

第一章 随机事件及概率

在一定条件下必然发生为确定性现象
在个别试验中其结果呈现不确定性，在大量重复试验中其结果又具有统计规律性的现象为随机现象

1、随机试验

定义：对随机现象进行观察或实验称为随机试验，简称试验，记作E，具有以下特点：

1. 相同条件下重复进行
2. 每次试验的可能结果不止一个（至少两个，也可能是无穷个），并且实现明确所有可能。
3. 每次实验前不能确定是哪个结果。

2、样本空间、随机事件

样本空间

随机试验E的所有可能结果组成的集合称为E的样本空间，记为S，样本空间的元素，即E的每一个结果，称为样本点

随机事件

随机试验E的样本空间S的子集A为E的随机事件，简称事件。
当某一子集出现时，称为事件发生。
由一个样本点e组成的单点集{e}称为基本事件。
样本空间S包含子试验中所有的样本点，在每次试验中总会发生，称S为必然事件。
空集∅不包含任何样本点，∅称为不可能事件。
由若干事件组合而成的事件称为复合事件

事件间的关系与事件的运算

设试验E的样本空间S。A，B，$A_k$(k=1,2,3…)是S的子集
1.若A$\subset$B，则称事件B包含事件A。A$\subset$B的一个等价说法，对B不发生，A也不会发生。∅$\subset$A$\subset$B
若A$\subset$B且B$\subset$A则A=B，事件A与事件B相等
2.事件A $\bigcup$ B={x|x$\in$A或x$\in$B}称为事件A与B的和事件，当且仅当A，B中至少有一个发生，事件A $\bigcup$ B发生
3.事件A $\bigcap$ B={x|x$\in$A且x$\in$B}称为事件A与事件B的交（积），当且仅当事件A与事件B同时发生。
4.事件A-B={x|x$\in$A且x$\notin$B}称为事件A和B的差事件，当且仅当A发生，B不发生时A-B发生。
5.若A $\bigcap$ B=∅，则称事件A与B是互不相容的，或互斥的
6.若A $\bigcup$ B=S且A $\bigcap$ B=∅，则称事件A与B互为逆事件，又称事件A和事件B互为对立事件
逆运算的性质：
A $\bigcap$ $\overline{A}$=A$\overline{A}$=∅
A $\bigcup$ $\overline{A}$=S

交换律：
A $\bigcup$ B=B $\bigcup$ A或A + B=B + A
A $\bigcap$ B=B $\bigcap$ A或AB=BA

结合律：
A $\bigcup$ （B $\bigcup$ C）=（A $\bigcup$ B ）$\bigcup$ C=A $\bigcup$ B $\bigcup$ C
或A + （B + C）=（A + B ）+ C = A + B + C
A $\bigcap$ （B $\bigcap$ C）=（A $\bigcap$ B ）$\bigcap$ C =A $\bigcap$ B $\bigcap$ C
或A （B C）=（A B ） C =A B C

分配律：
A $\bigcup$ （B $\bigcap$ C）= （A $\bigcup$ B）$\bigcap$（A $\bigcup$ C）
或A + （B C）= （A + B）（A + C）
A $\bigcap$ （B $\bigcup$ C）= （A $\bigcap$ B）$\bigcup$（A $\bigcap$ C）
或A （B + C）= A B+A C

德摩根律（对偶原理）：
$\overline{A\bigcup B}$=$\overline{A}\bigcap \overline{B}$
$\overline{A\bigcap B}$=$\overline{A}\bigcup \overline{B}$

3、频率与概率

频率

定义：在相同条件下，进行了n次试验，事件A发生的次数称为A的频数，记n(A),比值n(A)/n称为事件A的频率，记作$f_n(A)$,即$f_n(A)$=$n(A)/n$
频率具有以下特性：

1. 0 $\le$ $f_n(A)$ $\le$ 1
2. $f_n(S)$=1
3. 若$A_1$，$A_2$…$A_k$是两两互不相容事件，则$f_n(A_1\bigcup A_2\bigcup ...\bigcup A_k)=f_n(A_1)+f_n(A_2)+...+f_n(A_k))$

概率

定义：设E是随机试验，S是它的样本空间，对于E的每一事件A赋予一个实数，记为P(A),称为事件A的概率
函数P(A)满足下列条件：
(1)非负性：对每一个事件A，都有P(A)$\ge$ 0
(2)规范性：对于必然事件S，都有P(S)=1
(3)可列可加性，对于两互不相容事件$A_1$，$A_2$…有$P(A_1\bigcup A_2\bigcup ...)=P(A_1)+P(A_2)+...$

概率的性质：

性质1：P（∅）=0（不可能事件概率为0）
一个事件概率为0不代表它不可能发生
即概率为0的事件未必是不可能事件

性质2：有限可加性
设$A_1$，$A_2$…$A_n$是两两互不相容的事件，则有$P(A_1\bigcup A_2\bigcup ...\bigcup A_n)=P(A_1)+P(A_2)+...P(A_n)$

可由 可列可加性推出有限可加性，不可由 有限可加性推出可列可加性

性质3：设事件A与事件B满足A $\subset$ B则
(1)P(A) $\le$ P(B) 单调性（A $\subset$ B => P(A) $\le$ P(B)）
(2)P(B-A)=P(B)-P(A) 减法公式
证：
由A $\subset$ B得B = A $\bigcup$ (B-A)
由概率的可列可加性
P(B)=P(A $\bigcup$ (B-A))

=P(A)+P (B-A)
P (B-A)=P(B)-P(A)
一般的：P (B-A)=P(B)-P(AB)$\ge$P(B)-P(A)
（$B-A=B\overline{A}=B(1-A)=B-AB$）

性质4：对任何事件
$$0\le P(A)\le 1(任何事件的概率介于0和1之间)$$

性质5：逆事件概率
对任何事件A，有P(A)+P($\overline{A}$)=1或P(A)=1-P($\overline{A}$)

性质6：加法公式
对于任意两个事件A与B，有P(A $\bigcup$ B)=P(A)+P(B)-P(AB)
推广：P(A $\bigcup$ B $\bigcup$ C)=P(A)+P(B)+P( C)-P(AB)-P(AC)-P(BC)+P(ABC)

4、等可能概型（古典概型）

特点：
(1)样本空间包括有限个元素
(2)试验中每个基本事件发生的可能性相同
以上特点试验为等可能概型，也称为古典概型

生日问题：
有n个人，生日相同的两个概率为多少
P(A)=1-$\frac{365\cdot 364\cdot ..(365-n)}{365^n}$

抽签问题：
一袋中有a个白球，b个黄球，记a+b=n，设每次摸到概率相等，不放回摸n次，求第k次摸到白球的概率
P($A_k$)=$\frac{a(a+b-1)!}{(a+b)!}=\frac{a}{a+b}$

5、条件概率

条件概率

考虑事件A已经发生条件下，事件B发生的概率
定义：设A，B是两个事件，且P(A)>0,称
P(B|A)=$\frac{P(AB)}{P(A)}=\frac{N(AB)/N(s)}{N(A)/N(s)}=\frac{N(AB)}{N(A)}$
为在事件A发生条件下，事件A发生的条件概率
满足概率三个条件：
(1)非负性：对于每一事件B，有$P(B|A)\ge 0$;
(2)规范性：对于必然事件S，有$P(S|A)=1$;
(3)可列可加性：设$B_1,B_2,B_3...$两两互不相容
$$P(\bigcup _{i=1}^{\infty }{B}_i|A)=\sum _{i=1}^{\infty }P(B_i|A)$$

加法公式：$P(A\bigcup B|C)=P(A|C)+P(B|C)-P(AB|C)$

对立事件的概率公式：$P(\overline{B}|A)=1-P(B|A)$

乘法定理

设$P(A)>0$,则有

$$P(AB)=P(B|A)P(A)$$
称为乘法公式
两个事件同时发生的概率同时发生的概率等于第一个事件概率乘以第一个事件发生下第二个事件概率
推广：设A,B,C是事件，且$P(AB)$>0(从而P(A)>0)
则$P(ABC)=P(AB)P(C|AB)=P(A)P(B|A)P(C|AB)(P(AB)>0)$
$P(A_1{A}_2{A}_3)=P(A_1)P(A_2|A_1)P(A_3|A_1{A}_2)$

全概率公式和贝叶斯公式

1.样本空间的划分的定义
定义：设S为试验E的样本空间，$B_1,B_2,B_3...B_n$为E的一组事件，若
(1) $B_i{B}_j=\varnothing ,i̸=j，i,j=1,2,3,..,n$
(2) $B_1\bigcup B_2\bigcup ...\bigcup B_n=S$
就称$B_1,B_2,B_3...B_n$为样本空间的一个划分
若$B_1,B_2,B_3...B_n$是样本空间的一个划分，那么，对每次试验，事件$B_1,B_2,B_3...B_n$必有一个仅有一个发生

2.全概率公式

定理 设试验E的样本空间为S，A为E的事件，$B_1,B_2...B_n$为S的一个划分，
且P($B_i$)>0(i=1,2,3…,n),则
$$P(A)=P(A|B_1)P(B_1)+P(A|B_2)P(B_2)+...P(A|B_n)P(B_n)$$

$$=\sum _{i=1}^{n}P(A|B_i)P(B_i)$$

称为全概率公式
意义：将复杂事件划分为简单事件，再结合乘法和加法计算的A的概率
如果P(A)不容易求得，但很容易找到S的划分$B_1,B_2...B_n$，且$P(B_i)与P(A|B_i)$易求得，就可以通过全概率公式求
3.贝叶斯公式

定理 设试验E的样本空间为S，A为E的事件，$B_1,B_2...B_n$为S的一个划分，且P(A)>0
$P(B_i)$>0(i=1,2,3…,n),则
$$P(B_i|A)=\frac{P(A|B_i)P(B_i)}{{\sum }_{i=1}^{n}P(A|B_i)P(B_i)},i=1,2,..n$$

称为贝叶斯公式

可由全概率公式推出
$$P(B_i|A)=\frac{P(A{B}_i)}{P(A)}=\frac{P(A|B_i)P(B_i)}{{\sum }_{i=1}^{n}P(A|B_i)P(B_i)}$$

意义：在A已发生的而条件下，可用来寻找导致A发生的各种原因$B_i$的概率

6、事件的独立性

定义(独立性)
设A，B是两个事件，如果他们满足等式P(AB)=P(A)P(B),则称为事件A与事件B相互独立，简称A,B独立
两个事件独立是指一个事件发生的概率不受另一个事件发生与否的影响。

定理一：设A，B是两个事件，且P(A)>0,则A，B独立的充分必要条件是$P(B|A)=P(B)$

事件独立与互斥的关系：
如果P(A)>0,P(B)>0
则A,B独立，与A,B互斥不能同时成立
因为A,B独立时，有P(AB)=P(A)P(B)>0
而A,B互斥时，AB=$\varnothing$
P($\varnothing$)=0

定理二:若事件A和B相互独立，则以下各对事件也相互独立
$A$与$\overline{B}$,$\overline{A}$和$B$,$\overline{A}$和$\overline{B}$

推广

独立性的等价条件：
设0<P(A)<1
则
(1)A与B独立
(2)P(AB)=P(A)P(B)
(3)P(B|A)=P(B)
(4)P(B|$\overline{A}$)=P(B)
()5)P(B|A)=P(B|$\overline{A}$)