漫步数理统计七——随机变量(上)

读者可能会有这样的感受，如果样本空间$\textbf{C}$中的元素不是数的话，描述起来非常麻烦，现在我们就形式化一个规则或者一组规则，根据这些规则，$\textbf{C}$中的元素$c$可以用数来表示。首先讨论最简单的情况，考虑掷硬币的随机试验，样本空间是$\textbf{C}=\{c:\text{其中}c\text{是}T\text{或者}c\text{是}H\}$，$T,H$分别表示尾与头。$X$是一个函数，如果$c$是$T$，那么$X(c)=0$，如果$c$是$H$，那么$X(c)=1$，因此$X$是定义在样本空间$\textbf{C}$上的实值函数，这就让我们从样本空间$\textbf{C}$变换到了实数$\textbf{D}=\{0,1\}$空间，现在我们形式化随机变量与其空间的定义。

$\textbf{定义1：}$考虑样本空间为$\textbf{C}$的随机试验，函数$X$给每个元素$c\in\textbf{C}$只分配一个数$X(c)=x$，我们称其为随机变量，$X$的空间或者值域是实数$\textbf{D}=\{x:x=X(c),c\in\textbf{C}\}$的集合。

在我们的讨论中，$\textbf{D}$一般是可数集合或者一个实数区间，我们称第一种类型的随机变量为离散随机变量，第二种称为连续随机变量。本篇先讨论离散与连续随机变量的例子，然后再分别详细讨论他们。

随机变量$X$诱导出实数轴$R$上的新样本空间$\textbf{D}$，那么与事件$\textbf{B}$和概率$P$相似的又是什么呢？

考虑$X$是一个离散随机变量，且有一个有限的空间$\textbf{D}=\{d_1,\ldots,d_m\}$，这时候有$m$个事件由：

$$\{c\in\textbf{C}:X(c)=d_i\},\quad i=1,\ldots,m$$

给定，因此，对于随机变量，$\textbf{D}$上的$\sigma$域是由简单事件${{d_1},\ldots,{d_m}}$($\textbf{D}$的集(所有子集集合)生成的，令$\textbf{F}$表示这个$\sigma$ 域。

从而我们有了一个样本空间与一个事件集，那么概率集合函数呢？对于$\textbf{F}$中的任何事件$B$，我们定义

$$\begin{equation} P_X(B)=P[\{c\in\textbf{C}:X(c)\in B\}]\tag1 \end{equation}$$

我们需要说明$P_X$满足概率的三公理。

注意，首先$P_X(B)>0$，其次，因为$X$的定义域是$\textbf{C}$，所以我们有$P_X(\textbf{D})=P(\textbf{C})=1$，因此$P_X$满足概率的前两个公理，对第三个公理得证明留给读者。由此可知$P_X$是$\textbf{D}$上的概率，我们称$P_X$是随机变量$X$ 在$\textbf{D}$上导出的概率。

我们现在简化上面的讨论，因为$\textbf{F}$中的任何事件$B$是$\textbf{D}=\{d_1,\ldots,d_m\}$的一个子集，$P_X$ 满足

$$P_X(B)=\sum_{d_i\in B}P[\{c\in\textbf{C}:X(c)=d_i\}]$$

因此，$P_X$完全由函数

$$\begin{equation} p_X(d_i)=P_X[\{d_i\}],for\quad i=1,\ldots,m\tag2 \end{equation}$$

函数$p_X(d_i)$称为$X$的概率质量函数，简写为$pmf$，下面先给出一段批注，然后考虑一个实例。

$\textbf{注1：}$在等式1与2中，根据$P_X,p_X$中的下标$X$ 可以看出他们是随机变量导出的概率集合函数与pmf，我们会经常使用这种符号，尤其是讨论多个变量的时候。另一方面，如果随机变量很明显，那么我们就省略不写。

$\textbf{例1：}$现在掷两次骰子，令$X$表示两次得到的数字之和，样本空间是$\textbf{C}=\{(i,j):1\leq i,j\leq 6\}$，因为骰子每面朝上的概率是相等的，所以$P[ {(i,j)}]=1/36$，随机变量$X$是$X(i,j)=i+j$，$X$的空间是$\textbf{D}={2,\ldots,12}$，$X$的pmf为

$\textbf{C}$上的概率空间的$\sigma$域由$2^36$个子集组成，($\textbf{C}$中元素子集的个数)但是我们感兴趣的是随机变量$X$，只有11个我们感兴趣的事件；即事件${X=k},k=2,\ldots,12$。为了说明关于$X$的概率计算，假设$B_1=\{x:x=7,11\},B_2=\{x:x=2,3,12\}$，那么

$$\begin{align*} P_X(B_1)&=\sum_{x\in B_1}p_X(x)=\frac{6}{36}+\frac{2}{36}=\frac{8}{36}\\ P_X(B_2)&=\sum_{x\in B_2}p_X(x)=\frac{1}{36}+\frac{2}{36}+\frac{1}{36}=\frac{4}{36} \end{align*}$$

其中$p_X(x)$如表中所示。

对于连续随机变量，考虑下面简单的试验：在区间$(0,1)$上随机选择一个实数，令$X$表示选择的数，此时$X$的空间是$\textbf{D}=(0,1)$，这不像上面的例子那样可以容易的导出$P_X$的概率，但是有一些直观上的概率，例如，因为数是随机选择的，所以我们感觉

$$P_X[(a,b)]=b-a,for\quad 0<a<b<1$$

的分配方式比较合理。

对于连续随机变量$X$，我们想要$X$的概率模型是由区间概率确定的，因此我们取$R$上事件的类别为博莱尔$\sigma$域$\textbf{B}_0$，它是由区间导出的。注意它也包含了离散随机变量。例如，事件${d_i}$可以用取得的交来表示；例如$\{d_i\}=\cap_n(d_i-(1/n),d_i]$。

$\textbf{定义2：}$令$X$是随机变量，那么它的累加分布函数，$(cdf)$定义为

$$\begin{equation} F_X(x)=P_X((-\infty,x])=P(X\leq x)\tag3 \end{equation}$$

$\textbf{注2：}$回顾一下，$P$是样本空间$\textbf{C}$上的概率，所以等式3中右边的项需要定义，我们定义为

$$P(X\leq x)=P(\{c\in\textbf{C}:X(c)\leq x\})$$

这是比较方便的缩写形式，我们会经常使用这种写法。

另外，$F_X(x)$经常称为分布函数$(df)$，然而，我们加上累加，以此来说明$F_X(x)$累加了小于等于 x <script type="math/tex" id="MathJax-Element-2340">x</script>的概率。