依概率收敛

HERBIER

已于 2022-06-23 00:01:27 修改

阅读量4.3k

点赞数 3

分类专栏：概率论文章标签：概率论

于 2021-12-14 15:27:10 首次发布

本文链接：https://blog.csdn.net/m0_63954365/article/details/121909149

版权

概率论专栏收录该内容

4 篇文章 2 订阅

订阅专栏

依概率收敛

1. 背景
2. 定义
3. 定理
- 3.1 定义
- 3.2 证明
4. 参考文献

1. 背景

假设我们在生产线上一个接一个地检查产品是否合格。记 $X_n$ 为第 $n$ 次检查中不合格的产品数量，它仅能取0和1，且 $X_n \sim b(1,p), n =1, 2, ···$ ，其中 $p$ 为该产品的不合格率。这是一个伯努利实验序列，其对应着一个独立同分布（二项分布）的随机变量序列： $X_1, X_2, ··· X_n$ ，记为 ${X_n\}$ 。如果考虑前 $n$ 次检查中不合格品数 $S_n=X_1+X_2+···+X_n$ 介于 $a$ 与 $b$ 间概率是多少？即 $\le S_n \le b)=P(a \le X_1+X_2+···+X_n \le b) = ?$ 当然，由 $S_n \sim b(n,p)$ 可以算出此概率，但当 $n$ 比较大时（如 $n = 1000$ 或 $n = 10000$ ）计算时比较困难的。那我们能否找到一个较为简单的随机变量 $Y$ ，使用其分布（在 $n$ 较大时）可以较容易地计算出上述概率的近似值，即 $\le S_n \le b) \approx P(a \le Y \le b) \quad(在n较大时)$ 那么在什么条件下和在什么意义下，随机变量序列 ${S_n\}$ 可以收敛于随机变量 $Y ?$

又如在上述伯努利实验序列中，前 $n$ 次检查中不合格品发生的频率 $v_n=S_n/n$ 对不合格品率 $p$ 的偏差 $v_n-p|$ 是否可以任意小呢？当 $n$ 比较小时肯定不行；可当 $n$ 很大时情况会怎样呢？因此我们将研究随机序列 ${v_n\}$ 的极限状态。

2. 定义

定义：设 ${X_n\}$ 为一随机变量序列， $X$ 为一随机变量，如果对任意的 $\varepsilon>0$ ，有 $P(|X_n-X| \ge \varepsilon)\rightarrow0\quad(n\rightarrow \infty) \tag{1}$ 则称序列 ${X_n\}$ 依概率收敛于 $X$ ，记作 $X_n \stackrel{P}{\longrightarrow}X$ 。

依概率收敛的含义是： $X_n$ 对 $X$ 的绝对偏差不小于任一给定量的可能性将随着 $n$ 增大而愈来愈小。或者说，绝对偏差 $X_n-X|$ 小于任一给定量的可能性将随着 $n$ 增大而愈来愈接近于1，即式(1)等价于 $P\{|X_n-X|<\varepsilon \}\rightarrow1\quad(n\rightarrow \infty)$ 特别当 $X$ 为确定性分布时，即 $P (X = c) = 1$ ，则称序列 ${X_n\}$ 依概率收敛于 $c$ ，即 $X_n \stackrel{P}{\longrightarrow}c.$

3. 定理

3.1 定义

定义：设 ${X_n\}, \{Y_n\}$ 是两个随机变量序列， $a, b$ 是两个常数。如果 $X_n \stackrel{p}{\longrightarrow}a, Y_n \stackrel{p}{\longrightarrow}b,$ 则有
$\quad X_n\pm Y_n \stackrel{p}{\longrightarrow}a \pm b;\\ (2)\quad X_n \times Y_n \stackrel{p}{\longrightarrow}a \times b;\\ (3)\quad X_n \div Y_n \stackrel{p}{\longrightarrow}a \div b \quad (b \neq 0).$

3.2 证明

证明：
（1）因为 $\{|(X_n+Y_n)-(a+b)| \ge \varepsilon\} \subset \{(|X_n-a| \ge \frac{\varepsilon}{2})\cup(|Y_n-b| \ge \frac{\varepsilon}{2})\},$ 所以
$0\le P(|(X_n+Y_n)-(a+b)| \ge \varepsilon) \le P(|X_n-a| \ge \frac{\varepsilon}{2})+P(|Y_n-b| \ge \frac{\varepsilon}{2})\rightarrow0(n\rightarrow \infty)$
即 $P(|(X_n+Y_n)-(a+b)| < \varepsilon) \rightarrow 1(n\rightarrow \infty)$
由此可得 $X_n+ Y_n \stackrel{p}{\longrightarrow}a + b$ .类似可证 $X_n- Y_n \stackrel{p}{\longrightarrow}a - b.$

（2）为了证明 $X_n \times Y_n \stackrel{p}{\longrightarrow}a \times b$ ，我们分几步进行：

i) 若 $X_n \stackrel{p}{\longrightarrow}0$ ，则有 $X_n^2 \stackrel{p}{\longrightarrow}0.$ 这是因为对任意 $\varepsilon>0,$ 有 $P(|X_n^2 |\ge \varepsilon)=P(|X_n |\ge \sqrt{\varepsilon}) \rightarrow 0 (n\rightarrow \infty).$
ii) 若 $X_n \stackrel{p}{\longrightarrow}a$ ，则有 $cX_n \stackrel{p}{\longrightarrow}ca.$ 这是因为在 $c\not=0$ 时，有 $P(|cX_n-ca|\ge \varepsilon)=P(|X_n-a|\ge\varepsilon/|c|)\rightarrow0(n\rightarrow \infty),$ 而当 $c = 0$ 时，结论显然成立。
iii) 若 $X_n \stackrel{p}{\longrightarrow}a$ ，则有 $X_n^2 \stackrel{p}{\longrightarrow}a^2$ .这是因为有以下一系列结论： $X_n-a \stackrel{p}{\longrightarrow}0$ ， $(X_n-a)^2 \stackrel{p}{\longrightarrow}0$ ， $2a(X_n-a) \stackrel{p}{\longrightarrow}0$ ， $(X_n-a)^2+2a(X_n-a)=X_n^2-a^2\stackrel{p}{\longrightarrow}0$ ,即 $X_n^2\stackrel{p}{\longrightarrow}a^2.$
iv)由iii)及（1）知
$X_n^2 \stackrel{p}{\longrightarrow}a^2$ ， $Y_n^2 \stackrel{p}{\longrightarrow}b^2$ ， $X_n^2+Y_n^2 \stackrel{p}{\longrightarrow}a^2+b^2.$ 从而有
$X_n \times Y_n=\frac{1}{2}[(X_n + Y_n)^2-X_n^2 +-Y_n^2] \stackrel{p}{\longrightarrow}\frac{1}{2}[(a_n + b_n)^2-a_n^2 - b_n^2]=ab$
(3)为了证明 $X_n \div Y_n \stackrel{p}{\longrightarrow}a \div b$ ，我们先证： $\div Y_n \stackrel{p}{\longrightarrow}1 \div b$ .这是因为对任意 $\varepsilon>0$ ，有
$\begin{aligned} P(|\frac{1}{Y_n}-\frac{1}{b}|\ge \varepsilon)&=P(|\frac{Y_n-b}{Y_nb}|\ge \varepsilon)\\ &=P(|\frac{Y_n-b}{b^2+b(Y_n-b)}|,|Y_n-b|<\varepsilon)+P(|\frac{Y_n-b}{b^2+b(Y_n-b)}|,|Y_n-b|\ge \varepsilon)\\ &\le P(|\frac{Y_n-b}{b^2-\varepsilon|b|}|\ge\varepsilon)+P(|Y_n-b|\ge \varepsilon)\\ &=P(|Y_n-b|\ge(b^2-\varepsilon|b|)\varepsilon)+P(|Y_n-b|\ge \varepsilon)\rightarrow0(n\rightarrow\infty). \end{aligned}$
这就证明了 $\frac{1}{Y_n}\stackrel{P}{\longrightarrow}\frac{1}{b}$ ，再与 $X_n\stackrel{P}{\longrightarrow}a$ 结合，利用（2）即得 $X_n \div Y_n \stackrel{p}{\longrightarrow}a \div b$ .
由此定理可以看出，随机变量序列在概率意义上的极限（即依概率收敛于常数a）在四则运算下仍然成立。