概率论与数理统计笔记

第一章 概率论的基本概念

（一） 随机实验

随机试验特点：
1°可以在相同的条件下重复地进行
2°每次试验的可能结果不止一个，并且能事先明确试验的所有可能结果；
3°进行一次试验之前不能确定哪一个结果会出现

（二） 样本空间、随机事件

1.样本空间

对于随机试验，尽管在每次试验之前不能预知试验的结果，但试验的所有可能结果组成的集合是已知的，我们将随机试验E的所有可能结果组成的集合称为E的样本空间，记为S样本空间的元素，即E的每个结果，称为样本点。

2.随机事件

我们称试验E的样本空间S的子集为E的随机事件，简称事件。

3.事件关系

和事件： 事件 A ∪ B = { x ∣ x ∈ A 或 x ∈ B } A\cup{B}=\left\{ x\left| x\in A\text{或}x\in B\left. \right\} \right. \right. A∪B={x∣x∈A或x∈B}称为事件A与事件B的和事件。当且仅当A,B中至少有一个发生时，事件AUB发生
类似地，称${\bigcup }_{k=1}^{n}A$为n个事件A1,A2,…,A。的和事件；称${\bigcup }_{k=1}^{\infty }A$为可列个事件A1,A2,…的和事件。

积事件： 事件 A ∩ B = { x ∣ x ∈ A 且 x ∈ B } A\cap{B}=\left\{ x\left| x\in A\text{且}x\in B\left. \right\} \right. \right. A∩B={x∣x∈A且x∈B}称为事件A与事件B的积事件。当且仅A，B中同时发生时，事件A∩B发生。也记作AB。
类似的：略

差事件： 事件 A − B = { x ∣ x ∈ A 且 x ∉ B } A-{B}=\left\{ x\left| x\in A\text{且}x\notin B\left. \right\} \right. \right. A−B={x∣x∈A且x∈/​B}称为事件A与事件B的差事件。当且仅当A发生、B不发生时事件A-B发生。

4.运算定律

交换律：$A\cup B=B\cup AA\cap B=B\cap A$
结合律：$A\cup \left(B\cup C\right)=\left(A\cup B\right)\cup CA\cap \left(B\cap C\right)=\left(A\cap B\right)\cap C$
分配律：$A\cup \left(B\cap C\right)=\left(A\cup B\right)\cap \left(A\cup C\right)A\cap \left(B\cup C\right)=\left(A\cap B\right)\cup \left(A\cap C\right)$
德摩根律：$\overline{A\cup B}=\overline{A}\cap \overline{B}\overline{A\cap B}=\overline{A}\cup \overline{B}$

（三）频率与概率

概率性质
1.$P(\varnothing )=0$
2.有限可加性：A1,A2,…,An互不相容，则
$P(A_1\cup A_2\cup \cdots \cup A_n)=P(A_1)+P(A_2)+\cdots +P(A_n)$
3.设$A\subset B$则 $P(B-A)=P(B)-P(A)P(B)\ge P(A)$
5.加法公式：$P(A\cup B)=P(A)+P(B)-P(AB)$（奇加偶减）

（四）古典概型

1.古典概型特点

1°试验的样本空间只包含有限个元素；
2°试验中每个基本事件发生的可能性相同
具有以上两个特点的试验是大量存在的这种试验称为等可能概型，也称古典概型

2.计算公式

若事件A包含k个基本事件，即 A = { e i 1 } ∪ { e i 2 } ∪ ⋯ { e i k } A=\left\{e_{i1}\right\}\cup\left\{e_{i2}\right\}\cup \cdots \left\{e_{ik}\right\} A={ei1​}∪{ei2​}∪⋯{eik​}则有
P ( A ) = ∑ j = 1 k P ( { e i j } = k n = A 包 含 的 基 本 事 件 数 S 中 基 本 事 件 的 总 数 P(A)=\sum_{j=1}^kP(\left\{e_{ij}\right\}=\frac{k}{n}=\frac{A包含的基本事件数}{S中基本事件的总数} P(A)=∑j=1k​P({eij​}=nk​=S中基本事件的总数A包含的基本事件数​

（五）条件概率

1.定义

设 $A,B$ 是两个事件,且 $P(A)>0$, 称
$$P(B\mid A)=\frac{P(AB)}{P(A)}$$为在事件 $A$ 发生的条件下事件 $B$ 发生的条件概率.

2.乘法定理

乘法定理 设 $P(A)>0$, 则有
$$P(AB)=P(B\mid A)P(A)$$
称为乘法公式.
一般，设 $A_1,A_2,\cdots ,A_n$ 为 $n$ 个事件, $n⩾2$, 且 $P\left(A_1{A}_2\cdots A_{n-1}\right)>0$,则有
$P\left(A_1{A}_2\cdots A_n\right)=P\left(A_n\mid A_1{A}_2\cdots A_{n-1}\right)P\left(A_{n-1}\mid A_1{A}_2\cdots A_{n-2}\right)\cdots P\left(A_2\mid A_1\right)P\left(A_1\right)$

3.全概率公式与贝叶斯公式

划分的定义
设 $S$ 为试验 $E$ 的样本空间, $B_1,B_2,\cdots ,B_n$ 为 $E$ 的一组事件. 若
(i) $B_i{B}_j=\varnothing ,i\ne j,i,j=1,2,\cdots ,n$
(ii) $B_1\cup B_2\cup \cdots \cup B_n=S$
则称 $B_1,B_2,\cdots ,B_n$ 为样本空间 $S$ 的一个划分

全概率公式
设试验 $E$ 的样本空间为 $S,A$ 为 $E$ 的事件, $B_1,B_2,\cdots ,B_n$ 为 $S$ 的一 个划分, 且 $P\left(B_i\right)>0(i=1,2,\cdots ,n)$, 则
$$\begin{array}{rl}P(A)=& P\left(A\mid B_1\right)P\left(B_1\right)+P\left(A\mid B_2\right)P\left(B_2\right)+\cdots +\\ & P\left(A\mid B_n\right)P\left(B_n\right)\end{array}$$
称为全概率公式

贝叶斯公式
设试验 $E$ 的样本空间为 $S.A$ 为 $E$ 的事件, $B_1,B_2,\cdots ,B_n$ 为 $S$ 的一 个划分,且 $P(A)>0,P\left(B_i\right)>0(i=1,2,\cdots ,n)$, 则
$$P\left(B_i\mid A\right)=\frac{P\left(A\mid B_i\right)P\left(B_i\right)}{{\sum }_{j=1}^{n}P\left(A\mid B_j\right)P\left(B_j\right)},i=1,2,\cdots ,n$$
称为贝叶斯(Bayes)公式

（六）独立性

1.定义

设A,B是两事件，如果满足等式
$P(AB)=P(A)P(B)$
则称事件A,B相互独立，简称A,B独立

2.定理

1.设A,B是两事件，且P(A)>0.若A,B相互独立，则$P(B\mid A)=P(B)$反之亦然

2.若事件A与B相互独立，则下列各对事件也相互独立
$$\bar{A}与B,A与\bar{B},\bar{A}与\bar{B}$$

3.推广与推论

独立定义推广
设 $A,B,C$ 是三个事件,如果满足等式
$$\begin{array}{l}P(AB)=P(A)P(B)\\ P(BC)=P(B)P(C)\\ P(AC)=P(A)P(C)\\ P(ABC)=P(A)P(B)P(C)\end{array}\}$$
则称事件 $A,B,C$ 相互独立.
一般,设 $A_1,A_2,\cdots ,A_n$ 是 $n(n⩾2)$ 个事件,如果对于其中任意 2 个，任意 3 个，$\cdots$, 任意 $n$ 个事件的积事件的概率，都等于各事件概率之积，则称事件 $A_1$, $A_2,\cdots ,A_n$ 相互独立。

推论
1.若事件$A_1,A_2,\dots ,A_n(n\ge 2)$相互独立，则其中任意$k(2\le k\le n)$个事件也
是相互独立的
2.若n个事件$A_1,A_2,\dots ,A_n(n\ge 2)$相互独立，则将$A_1,A_2,\dots ,A_n$中任意多
个事件换成它们各自的对立事件，所得的n个事件仍相互独立