漫步数理统计二十三——泊松分布

回忆一下，对于$m$的所有值，级数

$$1+m+\frac{m^2}{2!}+\frac{m^3}{3!}+\cdots=\sum_{x=0}^\infty\frac{m^x}{x!}$$

收敛到$e^m$。考虑函数

$$p(x)= \begin{cases} \frac{m^xe^{-m}}{x!}&x=0,1,2,\ldots\\ 0&elsewhere \end{cases}$$

其中$m>0$。因为$m>0$，所以$p(x)\geq0$且

$$\sum_xp(x)=\sum_{x=0}^\infty\frac{m^xe^{-m}}{x!}=e^{-m}\sum_0^{\infty}\frac{m^x}{x!}=e^{-m}e^{m}=1$$

即，$p(x)$满足成为离散随机变量pmf的条件。有形如$p(x)$pmf的随机变量满足参数为$m$的泊松分布，这样的$p(x)$称为参数为$m$的泊松pmf。

$\textbf{注1：}$经验表明泊松分布在许多应用中能得到满意的结果。例如令随机变量$X$表示放射性物质在规定的时间间隔内在规定的区域内发射的$\alpha$粒子总数，对于何时的$m$值，会发现$X$满足泊松分布。再有令$X$表示制成品的产品数，像冰箱门，在测试了许多门后，对于合适的$m$值，我们发现$X$满足泊松分布。单位时间内交通事故的总数也经常假设为满足泊松分布的随机变量。我们可以将这些案例都看成一个过程，该过程在固定的间隔(时间或空间或其他)内产生一些变化，如果增过程导致泊松分布，那么该过程称为泊松分布，接下来列举一些确保为泊松过程的假设。

令$g(x,w)$表示在每个长度为$w$的间隔内$x$变化量的概率，进一步令符号$o(h)$表示使得$\lim_{h\to 0}[o(h)/h]=0$的任意函数；例如$h^2=o(h),o(h)+o(h)=o(h)$。泊松假定如下：

1. $g(1,h)=\lambda h+o(h)$，其中$\lambda$是正常数且$h>0$。
2. $\sum_{x=2}^\infty g(x,h)=o(h)$。
3. 不重叠区域的变化量是独立的。

假设1,3说明在短区间$h$中一个变化量的概率与其他不重叠区间的变化是独立的且近似与区间长度成比例。假设2的实值为在同样短的区间$h$内两个或更多变化量的概率基本等于零。如果$x=0,$我们取$g(0,0)=1$。根据假设1,2，在区间$h$ 内至少一个变化量的概率为$\lambda h+o(h)+o(h)=\lambda h+o(h)$，从而在区间$h$内零变化量的概率为$1-\lambda h-o(h)$，因此在区间$w+h$内零变化量的概率$g(0,w+h)$等于区间$w$内零变化量的概率$g(0,w)$与不重叠区间$h$内零变化量的概率$[1-\lambda h-o(h)]$的乘积(根据假设3)，即

$$g(0,w+h)=g(0,w)[1-\lambda h-o(h)]$$

那么

$$\frac{g(0,w+h)-g(0,w)}{h}=-\lambda g(0,w)-\frac{o(h)g(0,w)}{h}$$

如果取$h\to 0$时的极限，我们有

$$D_{w}[g(0,w)]=-\lambda g(0,w)$$

这个微分方程的解为

$$g(0,w)=ce^{-\lambda w}$$

即函数$g(0,w)=ce^{-\lambda w}$满足微分方程。条件$g(0,0)=1$表明$c=1$；所以

$$g(0,w)=e^{-\lambda w}$$

如果$x$是正整数，我们取$g(x,0)=0$，假设表明

$$g(x,w+h)=[g(x,w)][1-\lambda h-o(h)]+[g(x-1,w)][\lambda h+o(h)]+o(h)$$

从而我们有

$$\frac{g(x,w+h)-g(x,w)}{h}=-\lambda g(x,w)+\lambda g(x-1,w)+\frac{o(h)}{h}$$

且

$$D_{w}[g(x,w)]=-\lambda g(x,w)+\lambda g(x-1,w)$$

$x=1,2,3,\ldots$。利用数学归纳法可得在边界条件$g(x,0)=0$的约束下，这些微分方程的解分别为

$$g(x,w)=\frac{(\lambda w)^xe^{-\lambda w}}{x!},x=1,2,3,\ldots$$

因此区间$w$内$X$的变化量满足参数$m=\lambda w$的泊松分布。

泊松分布的mgf为

$$\begin{align*} M(t) &=\sum_xe^{tx}p(x)=\sum_{x=0}^\infty e^{tx}\frac{m^xe^{-m}}{x!}\\ &=e^m\sum_{x=0}^\infty\frac{(me^t)^x}{x!}\\ &=e^{-m}e^{me^t}=e^{m(e^t-1)} \end{align*}$$

因为

$$M^\prime(t)=e^m(e^t-1)(me^t)$$

且

$$M^{''}(t)=e^{m(e^t-1)}(me^t)+e^{m(e^t-1)}(me^t)^2$$

所以

$$\mu=M^\prime(0)=m$$

且

$$\sigma^2=M^{''}(0)-\mu^2=m+m^2-m^2=m$$

即泊松分布满足$\mu=\sigma^2=m>0$，为此泊松pmf经常写成

$$p(x)= \begin{cases} \frac{\mu^xe^{-\mu}}{x!}&x=0,1,2,\ldots\\ 0&elsewhere \end{cases}$$

故泊松pmf的参数$m$就是均值$\mu$。

$\textbf{例1：}$假设$X$满足$\mu=2$的泊松分布，那么$X$的pmf为

$$p(x)= \begin{cases} \frac{2^xe^{-2}}{x!}&x=0,1,2,\ldots\\ 0&elsewhere \end{cases}$$

这个分布的方差为$\sigma_2=\mu=2$。如果我们想计算$P(1\leq X)$，我们有

$$\begin{align*} P(1\leq X) &=1-P(X=0)\\ &=1-p(0)=1-e^{-2}=0.865 \end{align*}$$

$\textbf{例2：}$随机变量$X$的mgf为

$$M(t)=e^{4(e^t-1)}$$

那么$X$满足$\mu=4$的泊松分布。用上例的方法可得

$$P(X=3)=\frac{4^3e^{-4}}{3!}=\frac{32}{3}e^{-4}$$

或者查表

$$P(X=3)=P(X\leq 3)-P(X\leq 2)=0.433-0.238=0.195$$

$\textbf{例3：}$一尺长的电线有一个缺陷的概率为$\frac{1}{1000}$，两个或多个缺陷的概率为零。令随机变量$X$表示三百尺电线的缺陷数，如果我们假设不重叠区间内缺陷数是独立的，那么泊松过程的假设近似为$\lambda=\frac{1}{1000},w=3000$，因此$X$近似满足均值为$3000(\frac{1}{1000})=3$的泊松分布。例如3000尺电线有五个或更多缺陷的概率为

$$P(X\geq 5)=\sum_{k=5}^\infty\frac{3^ke^{-3}}{k!}$$

查表可得

$$P(X\geq 5)=1-P(X\leq 4)=1-0.815=0.185$$

泊松分布满足下面重要的加法性质。

$\textbf{定理1：}$假设$X_1,\ldots,X_n$是独立随机变量且假设$X_i$满足参数为$m_i$的泊松分布，那么$Y=\Sigma_{i=1}^nX_i$满足参数为$\Sigma_{i=1}^nm_i$的泊松分布。

$\textbf{证明：}$通过确定$Y$的mgf我们可以得到该结论。利用$X_i$的独立性与$X_i$的mgf，我们有

$$\begin{align*} M_{Y}(t) &=E(e^{tY})=E\left(e^{\Sigma_{i=1}^ntX_i}\right)\\ &=E\left(\prod_{i=1}^ne^{tX_i}\right)=\prod_{i=1}^nE(e^{tX_i})\\ &=\prod_{i=1}^ne^{m_i(e^t-1)}=e^{\Sigma_{i=1}^nm_i(e^t-1)} \end{align*}$$

根据mgf的唯一性我们得出$Y$满足参数为$\Sigma_{i=1}^nm_i$的泊松分布。

$\textbf{例4：}$假设例3中一捆电线长为3000尺，基于例子中的信息，我们期望一捆中3个缺陷且5个或更多缺陷的概率为0.185。假设在一次抽样中，随机选了三捆并且计算了缺陷的均值，现在假设我们想确定三个观测的均值为5或更多缺陷的概率，令$X_i$表示第$i$捆电线的缺陷数，其中$i=1,2,3$，那么$X_i$满足参数为3的泊松分布，$X_1,X_2,X_3$的均值为$\bar{X}=3^{-1}\Sigma_{i=1}^3X_i$，可以儿科表示成$Y/3$，其中$Y=\Sigma_{i=1}^3X_i$。根据上面的定理，因为不同捆之间是独立的，所以$Y$满足参数$\Sigma_{i=1}^33=9$的泊松分布。查表可得

$$P(\bar{X}\geq 5)=P(Y\geq 15)=1-P(Y\leq 14)=1-0.959=0.041$$

因此一捆电线有5个或更多缺陷(概率为0.185)没什么奇怪，但是三捆独立的电线平均有5个或更多缺陷就不正常了(概率为0.041)。