【概率论】期中复习笔记（上）：随机事件与概率、随机变量及其概率分布

第一章 随机事件与概率

1. 几个基本概念

随机现象：在一定条件下可能发生也可能不发生的现象

随机试验（$E_1,E_2,\cdots$）：
(1) 可以在相同条件下重复进行
(2) 每次试验可能的结果不止一个，但事先能明确所有可能的结果
(3) 进行一次试验之前不能肯定哪一次结果会出现

样本空间（$\Omega$）：随机试验$E$的所有可能试验结果的集合
样本点：样本空间的元素/试验结果

事件（$A,B,\cdots$）：样本空间的子集
事件$A$发生当且仅当$A$中的一个样本点出现

必然事件：$\Omega$（因为试验$E$必定有结果，而结果只能在$\Omega$里面，所以$\Omega$是必然事件）
不可能事件：$\varnothing$

例 连续掷两个骰子，观察其点数之和，若出现首次7点或8点，则试验结束。样本空间 Ω = { ( i 1 , i 2 , ⋯   , i n ) ∣ i n ∈ { 7 , 8 } ; i 1 , i 2 , ⋯   , i n − 1 ∉ { 7 , 8 } ; n = 1 , 2 , ⋯   } \Omega=\{(i_1,i_2,\cdots,i_n)|i_n\in\{7,8\};i_1,i_2,\cdots,i_{n-1}\notin\{7,8\};n=1,2,\cdots\} Ω={(i1​,i2​,⋯,in​)∣in​∈{7,8};i1​,i2​,⋯,in−1​∈/{7,8};n=1,2,⋯}。

2. 事件的关系与运算

$A\subset B$：$A$发生必然导致$B$发生
$A=B$：$A\subset B$且$B\subset A$

$A$与$B$的和事件： A ∪ B = { A , B 中至少有一个发生 } A\cup B=\{A,B\text{中至少有一个发生}\} A∪B={A,B中至少有一个发生}
$A$与$B$的积事件： A ∩ B = { A , B 都发生 } A\cap B=\{A,B\text{都发生}\} A∩B={A,B都发生}
$A$与$B$是互斥的/互不相容的：$A,B$不能同时发生，$AB=\varnothing$

$A$的对立事件： A ˉ = { A 不发生 } \bar A=\{A\text{不发生}\} Aˉ={A不发生}
$A\bar{A}=\varnothing$，$A\cup \bar{A}=\Omega$

$A$与$B$的差事件： A − B = { A 发生 , B 不发生 } A-B=\{A\text{发生},B\text{不发生}\} A−B={A发生,B不发生}
$A-B=A\bar{B}$

事件的运算定律：
(1) 交换律 $A\cup B=B\cup A$，$AB=BA$
(2) 结合律 $(A\cup B)\cup C=A\cup (B\cup C)$，$(AB)C=A(BC)$
(3) 分配律 $(A\cup B)C=(AC)\cup (BC)$，$(AB)\cup C=(A\cup C)(B\cup C)$
(4) 对欧律（德·摩根律） $\overline{A\cup B}=\bar{A}\bar{B}$，$\overline{AB}=\bar{A}\cup \bar{B}$

3. 概率的三种定义

(1) 古典定义

古典概型：要求试验满足
① 只有有限个试验结果
② 每次试验结果在一次试验中发生的可能性相等

则$P(A)=\frac{A\text{所包含的实验结果的个数}}{试验结果的总数}$

关键是结果个数和结果总数的计算。方法：

• 排列组合公式（$A_n^m=\frac{n!}{(n-m)!}$，$C_n^m=\frac{n!}{m!(n-m)!}$）
• 加法原理
• 乘法原理
• 容斥原理
• 多重集的组合（$n$个元素有$m$种状态，处于第$1,2,\cdots ,m$种状态的元素个数分别为$n_1,n_2,\cdots ,n_m$种，则组合方式有$\left(\genfrac{}{}{0ex}{}{n}{n_1{n}_2\cdots n_m}\right)=\frac{n!}{n_1!n_2!\cdots n_m!}$种）

例 $N$件产品中有次品$M$件，任取$n$件产品，问其中恰有$m$件次品的概率。
解：结果总数为所有取法的个数：$C_N^n$。恰有$m$件次品的结果总数为$C_M^m{C}_{N-M}^{n-M}$（$M$件次品中取$m$件，$N-M$件合格品中取剩下的$n-m$件）。故恰有$m$件次品的概率为$\frac{C_M^m{C}_{N-M}^{n-m}}{C_N^n}$。

几何概型：设某试验的样本空间为有界区域$\Omega$，若样本点落入$\Omega$的任何子域中的机会与该子域的度量成正比，而与其位置及形状无关，则样本点落入子域$A(A\subset \Omega )$的概率$P(A)$被定义为$P(A)=\frac{A\text{的度量}}{\Omega \text{的度量}}$，其中$\Omega \text{的度量}>0$。

(2) 统计定义

将随机试验$E$在相同条件下重复进行了$n$次，
事件$A$发生的次数$n_A$——$A$发生的频数，
$A$发生的频率：$f_n(A)=\frac{n_A}{A}$
若当$n$充分大时，$f_n(A)$在常数$p$附近波动——称$p$为事件$A$发生的概率，记作$P(A)=p$。

(3) 公理化定义

设：

• $E$：随机试验
• $\Omega$：$E$的样本空间
• 事件域$\mathcal{F}$：$\Omega$中满足一定条件的事件
• 集合函数$P(A)$

若$P(\cdot )$满足：
① 非负性 $\forall A\in \mathcal{F}$，$P(A)\ge 0$
② 规范性 $P(\Omega )=1$
③ 可列可加性 设$A_i\in \mathcal{F}(i=1,2,\cdots )$，且$A_i{A}_j=\varnothing$；$\forall i\ne j$，有 $P(A_1\cup A_2\cup \cdots )=P(A_1)+P(A_2)+\cdots$

4. 概率的性质

(1) $P(\varnothing )=0$
(2)（概率的加法定理） 若$A_1,A_2,\cdots ,A_n$两两互斥，则$P(A_1\cup A_2\cup \cdots \cup A_n)=P(A_1)+P(A_2)+\cdots +P(A_n)$
推广：$P\left(\bigcup _{i=1}^n{A}_i\right)=\sum _{i=1}^{n}P(A_i)-\sum _{1\le i<j\le n}P(A_i{A}_j)+\cdots +(-1{)}^{n}P(A_1{A}_2\cdots A_n)$（规律：加奇减偶）
(3) 若$A\subset B$，则$P(B-A)=P(B)-P(A)$，且$P(B)\ge P(A)$
(4) $P(\bar{A})=1-P(A)$
(5) $P(A\cup B)=P(A)+P(B)-P(A\cap B)$
(6)（概率的连续性） 设 { A n , n = 1 , 2 , ⋯   } \{A_n,n=1,2,\cdots\} {An​,n=1,2,⋯}为事件列，若$A_n\subset A_{n+1},n=1,2,\cdots$，令$A=\bigcup _{i=1}^{\infty }{A}_i$，则$P(A)=\underset{n\to \infty }{\lim }P(A_n)$。

5. 条件概率、事件的相互独立性

条件概率：设$A,B$为两个事件，$P(B)\ne 0$，事件$B$发生的条件下事件$A$发生的条件概率$P(A|B)=\frac{P(AB)}{P(B)}$

乘法公式：

• 若$P(B)>0$，则$P(AB)=P(B)P(A|B)$
• 若$P(AB)\ge 0$，则$P(ABC)=P(A)P(B|A)P(C|AB)$

互斥完备事件群/互不相容完备事件组：若事件$B_1,B_2,\cdots ,B_n,\cdots$满足
(1) $B_i{B}_j\ne \varnothing$（$i\ne j$，$i,j=1,2,\cdots$）
(2) $B_1\cup B_2\cup \cdots \cup B_n\cup \cdots =\Omega$

全概率公式：设$B_1,B_2,\cdots ,B_n,\cdots$是互斥完备事件群，且$P(B_i)>0$（$i=1,2,\cdots$），$A$为任意事件，则$P(A)=\sum _{j}P(B_j)P(A|B_j)$

贝叶斯公式：（条件同上）若还有$P(A)>0$，则$P(B_i|A)=\frac{P(B_i)P(A|B_i)}{P(A)}=\frac{P(B_i)P(A|B_i)}{\sum _{j}P(B_j)P(A|B_j)}$
其中$P(B_i)$称为先验概率，$P(B_i|A)$称为后验概率

事件$A,B$独立：$P(AB)=P(A)P(B)$

若四对事件 { A , B } , { A , B ˉ } , { A ˉ , B } , { A ˉ , B ˉ } \{A,B\},\{A,\bar B\},\{\bar A, B\},\{\bar A,\bar B\} {A,B},{A,Bˉ},{Aˉ,B},{Aˉ,Bˉ}中有一对是相互独立的，则另外三对也是相互独立的

$n$个事件相互独立：设$A_1,A_2,\cdots ,A_n$是$n$个事件，若从中任选$k$个事件$A_{i_1},A_{i_2},\cdots ,A_{i_k}$都有$P(A_{i_1}{A}_{i_2}\cdots A_{i_k})=P(A_{i_1})P(A_{i_2})\cdots P(A_{i_k})$成立，则称事件$A_1,A_2,\cdots ,A_n$相互独立

设$n$个事件相互独立，把其中任意$m$个事件换成其对立事件，所得的$n$个事件仍相互独立

若$A_1,A_2,\cdots ,A_n$相互独立，则$P(A_1{A}_2\cdots A_n)=P(A_1)P(A_2)\cdots P(A_n)$，$P(A_1\cup A_2\cup \cdots \cup A_n)=1-P(\overline{A_1}\overline{A_2}\cdots \overline{A_n})=1-P(\overline{A_1})P(\overline{A_2})\cdots P(\overline{A_n})$

第二章 随机变量及其概率分布

1. 随机变量及其分布函数

随机变量$X$：设$E$为一随机试验，$\Omega$为其样本空间，若：

• $X=X(\omega )$，$\omega \in \Omega$为一单值实函数
• $\forall x\in \mathbb{R}$，集合 { ω ∣ X ( ω ) ≤ x } \{\omega|X(\omega)\le x\} {ω∣X(ω)≤x}都是随机事件，则称$X$为随机变量。

随机变量$X$的分布函数：设$X$是一随机变量，称 F ( x ) = P { X ≤ x } , x ∈ R F(x)=P\{X\le x\},x\in\mathbb R F(x)=P{X≤x},x∈R为随机变量$X$的分布函数。 P { x ∈ ( a , b ] } = P ( a < x ≤ b ) = F ( b ) − F ( a ) P\{x\in(a,b]\}=P(a<x\le b)=F(b)-F(a) P{x∈(a,b]}=P(a<x≤b)=F(b)−F(a)。

分布函数的基本性质：
(1) 单调增；
(2) 右连续；
(3) $\forall x\in \mathbb{R}$，$0\le F(x)\le 1$；$F(-\infty )=\underset{x\to -\infty }{\lim }F(x)=0,F(+\infty )=\underset{x\to +\infty }{\lim }F(x)=1$。
一个函数满足以上性质$⟹$该函数是某个随机变量的分布函数。

2. 离散型随机变量及其分布律

离散型随机变量$X$：$X$的所有可能取值为有限个或可数个（可数个就是说可能取值的集合的势为${\aleph }_0$）

离散型随机变量$X$的分布律/概率函数： p k = P { X = x k } , k = 1 , 2 , ⋯ p_k=P\{X=x_k\},k=1,2,\cdots pk​=P{X=xk​},k=1,2,⋯
写作：$X\text{~}\left(\begin{array}{lcccc}{x}_1& x_2& \cdots & x_n& \cdots \\ p_1& p_2& \cdots & p_n& \cdots \end{array}\right)$
分布律的性质：(1) $p_k\ge 0,k=1,2,\cdots$；(2) $\sum _{k=1}^{\infty }{p}_k=1$

离散型随机变量的分布函数： F ( x ) = P { X ≤ x } = ∑ x k ≤ x P { X = x k } = ∑ x k ≤ x p k F(x)=P\{X\le x\}=\sum\limits_{x_k\le x}P\{X=x_k\}=\sum\limits_{x_k\le x}p_k F(x)=P{X≤x}=xk​≤x∑​P{X=xk​}=xk​≤x∑​pk​

常见的几种离散型随机变量及其分布律：

(1) 单点分布$\left(\genfrac{}{}{0ex}{}{a}{1}\right)$： P { X = a } = 1 P\{X=a\}=1 P{X=a}=1

(2) 两点分布： P { X = a 0 } = { 1 − p , x = a 0 p , x = a 1 = p i ( 1 − p ) 1 − i , i = 0 , 1 P\{X=a_0\}=\begin{cases}1-p,&x=a_0\\p,&x=a_1\end{cases}=p^i(1-p)^{1-i},i=0,1 P{X=a0​}={1−p,p,​x=a0​x=a1​​=pi(1−p)1−i,i=0,1

• (0-1)分布：$a_0=0,a_1=1$，记作$X\text{~}B(1,p)$或$X\text{~}\left(\begin{array}{lc}0& 1\\ 1-p& p\end{array}\right)$

(3) 二项分布$B(n,p)$： P { X = k } = C n k p k ( 1 − p ) 1 − k , k = 0 , 1 , 2 , ⋯   , n P\{X=k\}=C_n^kp^k(1-p)^{1-k},k=0,1,2,\cdots,n P{X=k}=Cnk​pk(1−p)1−k,k=0,1,2,⋯,n，表示：若某事件$A$在一次试验中发生的概率为$p$，将此试验独立地重复进行$n$次（称为$n$重伯努利试验），$X$——事件$A$发生的次数的分布律

(4) 泊松分布$P(\lambda )$： P { X = k } = λ k e − λ k ! , k = 0 , 1 , 2 , ⋯ P\{X=k\}=\frac{\lambda^k e^{-\lambda}}{k!},k=0,1,2,\cdots P{X=k}=k!λke−λ​,k=0,1,2,⋯

• 泊松定理：设随机变量$X_n$服从二项分布$B(n,p_n)(n=1,2,\cdots )$，令$\lambda =\underset{n\to \infty }{\lim }n{p}_n$，则$\underset{n\to \infty }{\lim }{C}_n^k{p}_n^k(1-p_n{)}^{n-k}=\frac{{\lambda }^k{e}^{-\lambda }}{k!}$。即当$n$足够大时$C_n^k{p}_n^k(1-p_n{)}^{n-k}\approx \frac{{\lambda }^k{e}^{-\lambda }}{k!}$

(5) 几何分布$Ge(p)$： P { X = k } = ( 1 − p ) k − 1 p , k = 1 , 2 , 3 , ⋯ P\{X=k\}=(1-p)^{k-1}p,k=1,2,3,\cdots P{X=k}=(1−p)k−1p,k=1,2,3,⋯，表示$n$重伯努利试验中事件$A$首次发生所需的试验次数的分布律

3. 连续型随机变量及其分布

连续型随机变量、概率密度：设$X$为随机变量，若存在非负可积函数$f(x)$，使得对任意区间$A\subset R$，都有 P { X ∈ A } = ∫ A f ( x ) d x P\{X\in A\}=\int_A{f(x)\text{d}x} P{X∈A}=∫A​f(x)dx，则称$X$为连续型随机变量，并称$f(x)$为$X$的概率密度

概率密度的基本性质：(1) $\forall x\in \mathbb{R},f(x)\ge 0$；(2) ${\int }_{-\infty }^{+\infty }f(x)\text{d}x=1$

连续型随机变量的分布函数：$F(x)={\int }_{-\infty }^{x}f(t)\text{d}t$
若$f(x)$在点$x$处连续，则有$F^{\prime }(x)=f(x)$

连续型随机变量取任何实数的概率都是$0$

常见的几种连续型随机变量及其分布律：

(1) 正态分布$N(\mu ,{\sigma }^2)$：$$f(x)=\frac{1}{\sqrt{2\pi }\sigma }{e}^{-\frac{(x-\mu {)}^2}{2{\sigma }^2}},x\in \mathbb{R}$$$X$服从参数为$\mu ,\sigma$的正态分布$⟹$$X\text{~}N(\mu ,{\sigma }^2)$（称$X$为正态变量）

标准正态分布：$\mu =0,\sigma =1$，记作$N(0,1)$，概率密度$\varphi (x)=\frac{1}{\sqrt{2\pi }}{e}^{-\frac{x^2}{2}},x\in \mathbb{R}$；分布函数$\Phi (x)={\int }_{-\infty }^x\frac{1}{\sqrt{2\pi }}{e}^{-\frac{t^2}{2}}\text{d}t$

$\Phi (-x)=1-\Phi (x)$
$\Phi (0)=\frac{1}{2}$
若$X\text{~}N(0,1)$，则 P { X ≥ x } = Φ ( − x ) P\{X\ge x\}=\Phi(-x) P{X≥x}=Φ(−x)

若$X\text{~}N(\mu ,{\sigma }^2)$，则$Z=\frac{X-\mu }{\sigma }\text{~}N(0,1)$

由此可得一些积分的值：
${\int }_{-\infty }^{+\infty }{e}^{-\frac{(x-\mu {)}^2}{2{\sigma }^2}}\text{d}x=\sqrt{2\pi }\sigma$
${\int }_{\mu }^{+\infty }{e}^{-\frac{(x-\mu {)}^2}{2{\sigma }^2}}\text{d}x=\sqrt{\frac{\pi }{2}}\sigma$
特别地，
${\int }_{-\infty }^{+\infty }{e}^{-\frac{x^2}{2}}\text{d}x=\sqrt{2\pi }$
${\int }_0^{+\infty }{e}^{-\frac{x^2}{2}}\text{d}x=\sqrt{\frac{\pi }{2}}$

$X\text{~}N(\mu ,{\sigma }^2)⟹Y=kX+b\text{~}N(k\mu +b,k^2{\sigma }^2)$（其中$k\ne 0$）

(2) 均匀分布$U(a,b)(a<b)$：$f(x)=\{\begin{array}{ll}\frac{1}{b-a},& a\le x\le b\\ 0,& \text{其他}\end{array}$，分布函数$F(x)=\{\begin{array}{ll}0,& x<a\\ \frac{x-a}{b-a},& a\le x<b\\ 1,& x\ge b\end{array}$

(3) 指数分布$Exp(\lambda )$：$f(x)=\{\begin{array}{ll}\lambda e^{-\lambda x},& x\ge 0\\ 0,& x<0\end{array}$，分布函数$F(x)=\{\begin{array}{ll}1-e^{-\lambda x},& x\ge 0\\ 0,& x<0\end{array}$

X ~ E x p ( λ )    ⟹    ∀ s > 0 , t > 0 , P { X > s + t ∣ X > s } = P { X > t } X\text{\large\textasciitilde}Exp(\lambda)\implies\forall s>0,t>0,P\{X>s+t|X>s\}=P\{X>t\} X~Exp(λ)⟹∀s>0,t>0,P{X>s+t∣X>s}=P{X>t}
（指数分布的无记忆性：出生时能活$t$年和$s$岁时再活$t$年概率相同）

4. 随机变量的函数及其概率分布

设$X$为随机变量，$g(x)$为单值实函数（假设其为连续函数/单调函数/分段单调函数），则$Y=g(X)$仍为随机变量

• $X$为离散型随机变量$⟹$$Y$也是离散型随机变量

  • 分布律求法：
    • 设$X\text{~}\left(\begin{array}{ccccc}{x}_1& x_2& \cdots & x_n& \cdots \\ p_1& p_2& \cdots & p_n& \cdots \end{array}\right)$
    • 求出所有$x_k(k=1,2,\cdots ,n,\cdots )$对应的$g(x_k)$，每个$g(x_k)$对应的概率为$p_k$
    • 合并相同的$g(x_k)$，将对应的$p_k$相加

• $X$为连续型随机变量$⟹$$Y$可能连续也可能离散

  • 若$Y$离散，求其分布律
  • 若$Y$不离散，求其分布函数： F Y ( y ) = P { Y ≤ y } = P { g ( X ) ≤ y } = ∫ g ( x ) ≤ y f X ( x ) d x F_Y(y)=P\{Y\le y\}=P\{g(X)\le y\}=\int_{g(x)\le y}f_X(x)\text{d}x FY​(y)=P{Y≤y}=P{g(X)≤y}=∫g(x)≤y​fX​(x)dx（若概率密度存在，对$F_Y(y)$求导即得概率密度$f_Y(y)=F_Y^{\prime }(y)$）
    • 若$Y$连续，可求其概率密度
      • 设随机变量$X$具有概率密度$f_X(x)$，若$g(x)$为$\mathbb{R}$上的可导函数，并且恒有$g^{\prime }(x)>0$或$g^{\prime }(x)<0$。记$h(y)$为$g$的反函数，则$Y=g(X)$是连续型随机变量，其概率密度为$f_Y(y)=\{\begin{array}{ll}{f}_X(h(y))|h^{\prime }(y)|,& y\in g(\mathbb{R})\\ 0,& \text{其他}\end{array}$，其中$g(\mathbb{R})$为$g$的值域
      • 若$f_X(x)$在区间$[a,b]$外恒为$0$，则把$\mathbb{R}$换成$[a,b]$依然成立

参考书目

《概率论与数理统计》施雨等编