漫步数理统计九——离散随机变量

$\textbf{定义1：}$对于一个随机变量，如果它的空间要么有限，要么可数，那么我们称其是一个离散随机变量。

对于集合$\mathcal{D}$，如果它的元素是可列的，那么我们称这个集合是可数的；例如在$\mathcal{D}$与正整数之间存在一个一一对应的关系。

$\textbf{例1：}$考虑抛硬币产生的独立序列，每个结果要么是头$(H)$要么是尾$(T)$。进一步，在每次抛的过程中，我们假设$H,T$是等可能的，即$P(H)=P(T)=\frac{1}{2}$。样本空间$\mathcal{C}$由像$TTHTHHT\cdots$这样的序列组成，令随机变量$X$第一次抛出头时所抛的次数，那么对于给定的序列，$X=3$。显然$X$的空间是$\mathcal{D}=\{1,2,3,4,\ldots\}$，当开始是$H$ 时$X=1$，因此$P(X=1)=\frac{1}{2}$，同样得当序列为$TH$ 时$X=2$，根据独立性可知概率$P(X=2)=(\frac{1}{2})(\frac{1}{2})=\frac{1}{4}$。更一般得，如果$X=x$，其中$x=1,2,3,4,\ldots$，那么前面有$x-1$次为尾，即$TT\cdots TH$，所以根据独立性，我们有

$$P(X=x)=\left(\frac{1}{2}\right)^{x-1}\left(\frac{1}{2}\right)=\left(\frac{1}{2}\right)^x,\quad x=1,2,3,\ldots$$

这个空间是可数的。一个有趣的事件是第一处出现头的次数为奇数；例如$X=\in\{1,3,5,\ldots\}$，这个事件的概率为

$$P[X\in\{1,3,5,\ldots\}]=\sum_{x=1}^\infty\left(\frac{1}{2}\right)^{2x-1}=\frac{1/2}{1-(1/4)}=\frac{2}{3}$$

通过上面的例子表明，关于离散随机变量的概率可以用$P(X=x)$的概率求出来，这些概率确定了一个重要的函数，定义下：

$\textbf{定义2：}$令$X$是离散随机变量，空间为$\mathcal{D}$，$X$的概率质量函数由

$$p_X(x)=P[X=x],for\ x\in\mathcal{D}$$

给出。

注意，pmf满足下面两条性质：

$$(i)0\leq p_X(x)\leq 1,x\in\mathcal{D};(ii)\Sigma_{x\in\mathcal{D}}p_X(x=1)$$

对于离散集合$\mathcal{D}$，如果一个函数满足性质$(i)(ii)$，那么这个函数唯一确定了随机变量的分布。

令$X$是离散随机变量，空间为$\mathcal{D}$，$F_X(x)$的不连续点定义了质量；即如果$x$是$F_X$的一个不连续点，那么$P(X=x)>0$。现在我们将随机变量空间与概率为正的点区别开来，对那些空间$X$中概率为正的点我们定义其为随机变量$X$ 的支撑，我们经常用$\mathcal{S}$来表示$X$的支撑，注意$\mathcal{S}\subset\mathcal{D}$，当然也有可能$\mathcal{S}=\mathcal{D}$

$\textbf{例2：}$现在有100个保险丝，从中随机抽出5个进行检测；如果5个均合格，那么这100个接受。事实上，这100个中有20个不合格，那么该保险丝被接受的概率为

$$\frac{\binom{80}{5}}{\binom{100}{5}}=0.32$$

更一般得，令随机变量$X$是5个中不合格的个数，那么$X$的pmf为

$$p_X(x)= \begin{cases} \frac{\binom{20}{x}\binom{80}{5-x}}{\binom{100}{5}}&for\ x=0,1,2,3,4,5\\ 0&elsewhere \end{cases}$$

很明显，$X$的空间是$\mathcal{D}=\{0,1,2,3,4,5\}$，这是满足超几何分布的随机变量的实例，基于这些讨论很容易画出$X$cdf的图像。

在统计学中经常会遇到这样的问题，我们有一个随机变量$X$ 并且知道它的分布，然而我们感兴趣的是随机变量$Y$，他它是$X$的某个变量，$Y=g(X)$。尤其是我们想确定$Y$的分布，假设$X$在空间$\mathcal{D}_X$中是离散的，那么$Y$的空间是$\mathcal{D}_Y=\{g(x):x\in\mathcal{D}_X\}$。现在考虑两种情况：

首先$g$是一对一的，那么$Y$的pmf为

$$\begin{equation} p_Y(y)=P[Y=y]=P[g(X)=y]=P[X=g^{-1}(y)]=p_X(g^{-1}(y))\tag1 \end{equation}$$

$\textbf{例3：}$考虑例1的几何随机变量$X$，$X$是第一次出现头时所抛硬币的次数，令$Y$是第一次出现头时前面所抛硬币的次数，即$Y=X-1$。这时函数$g$为$g(x)=x-1$，其逆为$g^{-1}(y)=y+1$，$Y$的空间是$D_Y=\{0,1,2,\ldots\}$，根据等式1的表达式可得$Y$的pmf是

$$p_Y(y)=p_X(y+1)=\left(\frac{1}{2}\right)^{y+1},for\ y=0,1,2,\ldots$$

$\textbf{例4：}$令$X$的pmf为

$$p_X(x)= \begin{cases} \frac{3!}{x!(3-x)!}(\frac{2}{3})^x(\frac{1}{3})^{3-x}&x=0,1,2,3\\ 0&elsewhere \end{cases}$$

我们现在求随机变量$Y=X^2$的pmf$p_Y(y)$，变换$y=g(x)=x^2$将$\mathcal{D}_X=\{x:x=0,1,2,3\}$映射到$\mathcal{D}_Y=\{y:y=0,1,4,9\}$，一般而言，$y=x^2$不是一对一映射的；但是这里是满足条件的，因为$\mathcal{D}_X=\{x:x=0,1,2,3\}$中的$x$不存在负值，即我们有单值的反函数$x=g^{-1}(y)=\sqrt y$(不是$-\sqrt y$)，并且

$$p_Y(y)=p_X(\sqrt y)=\frac{3!}{(\sqrt y)!(3-\sqrt y)!}\left(\frac{2}{3}\right)^{\sqrt y}\left(\frac{1}{3}\right)^{3-\sqrt y},\ y=0,1,4,9$$

第二种情况中的变换$g(x)$不是一对一的。虽然不是绝对的，但是对大多数涉及离散随机变量的应用来说，$Y$的pmf通过直接的方法就能得到，为此我们给出两个例子。

考虑例3中的几何随机变量，我们玩一个游戏，如果第一次头出现的次数为偶数甲方赢一元，如果是奇数那么甲方输一元，令$Y$表示我们的净收益，那么$Y$的空间是$\{-1,1\}$。例1 中已经计算出$X$为奇的概率为$\frac{2}{3}$，因此$Y$的分布为$p_Y(-1)=2/3,p_Y(1)=1/3$。

考虑另一个例子，令$Z=(X-2)^2$，其中$X$是例1的几何随机变量，那么$Z$的空间是$\mathcal{D}_Z=\{0,1,4,9,16,\ldots\}$，注意当且仅当$X=2$时$Z=0$；当且仅当$X=1$或者$X=3$时$Z=1$；而其他情况存在一对一的关系：$x=\sqrt z+2,z\in\{4,9,16,\ldots\}$。因此$Z$的pmf是：

$$p_Z(x)= \begin{cases} p_X(2)=\frac{1}{4}&for\ z=0\\ p_X(1)+p_X(3)=\frac{5}{8}&for\ z=1\\ p_X(\sqrt z+2)=\frac{1}{4}(\frac{1}{2})^{\sqrt z}&for\ z=4,9,16,\ldots \end{cases}$$

为了验证其正确性，读者可以试着计算 Z <script type="math/tex" id="MathJax-Element-2666">Z</script>的pmf在其空间上求和等于1。

博文pdf版本下载地址：http://pan.baidu.com/s/1i5OaIUT