概率论与数理统计教程(四)-大数定理与中心极限定理02：特征函数

$\S 4.2$ 特征函数
设 $p(x)$ 是随机变量 $X$ 的密度函数, 则 $p(x)$ 的傅里叶 (Fourier) 变换是
$$\phi (t)={\int }_{-\infty }^{\infty }{\mathrm{e}}^{\mathrm{i}tx}p(x)\mathrm{d}x,$$
其中 $\mathrm{i}=\sqrt{-1}$ 是虚数单位. 由数学期望的概念知, $\phi (t)$
恰好是 $E\left({\mathrm{e}}^{\mathrm{i}tX}\right)$.
这就是本节要讨论的特征函数, 它是处理许多概率论问题的有力工具.
它能把寻求独立随机变量和的分布的卷积运算 (积分运算) 转换成乘法运算,
还能把求分布的各阶原点矩 (积分运算) 转换成微分运算, 特别地,
它能把寻求随机变量序列的极限分布转换成一般的函数极限问题.下面从特征函数的定义开始介绍它们.
4.2.1 特征函数的定义
先介绍一下复随机变量的概念.
特征函数除考虑取实数值的随机变量外, 还要考虑取复数值的随机变量,
后者简称为复随机变量. 复随机变量定义为 $Z=Z(w)=X(w)+\mathrm{i}Y(w)$,
其中 $X(w)$ 与 $Y(w)$ 是定义在 $\Omega$ 上的实随机变量. 而
$\bar{Z}(w)=X(w)-\mathrm{i}Y(w)$ 称为 $Z(w)$
的复共轭随机变量.复随机变量 $Z=X+\mathrm{i}Y$ 的模 $|Z|$ 定义为
$\sqrt{X^2+Y^2}$, 或 $|Z{|}^2=X^2+Y^2$, 且
$Z\bar{Z}=X^2+Y^2=|Z{|}^2$.
与随机变量有关的一些概念和定义,一般都可类似地移到复随机变量场合.例如,若随机变量
$X$ 与 $Y$ 的数学期望 $E(X)$ 与 $E(Y)$ 都存在, 则复随机变量
$Z=X+\mathrm{i}Y$ 的数学期望定义为 $E(Z)=E(X)+\mathrm{i}E(Y)$.
又如复随机变量 $Z_1=X_1+\mathrm{i}{Y}_1$ 与
$Z_2=X_2+\mathrm{i}{Y}_2$ 相互独立当且仅当
$\left(X_1,Y_1\right)$ 与 $\left(X_2,Y_2\right)$ 相互独立
$(\left(X_1,Y_1,X_2,Y_2\right)$ 的联合分布
$F_{X_1,Y_1,x_2,Y_2}(x_1,y_1,x_2$,
$y_2)$ 等于其边际分布
$F_{x_1,Y_1}\left(x_1,y_1\right)$ 和
$F_{x_2,Y_2}\left(x_2,y_2\right)$ 的乘积). 在欧拉公式
${\mathrm{e}}^{\mathrm{i}X}=$ $\cos X+\mathrm{i}\sin X$ 中若 $X$
是实随机变量, 则
$E\left({\mathrm{e}}^{iX}\right)=E(\cos X)+\mathrm{i}E(\sin X)$, 其模
$\left|{\mathrm{e}}^{iX}\right|=$ $\sqrt{{\cos }^{2}X+{\sin }^{2}X}=1$. 若
$X$ 与 $Y$ 独立, 则 ${\mathrm{e}}^{iX}$ 与 ${\mathrm{e}}^{iY}$ 也独立.
下面我们给出特征函数的定义.
定义 4.2.1 设 $X$ 是一个随机变量, 称
$$\phi (t)=E\left({\mathrm{e}}^{\mathrm{i}t}\right),-\infty <t<\infty ,$$
为 $X$ 的特征函数.
因为 $\left|{\mathrm{e}}^{\mathrm{i}iX}\right|=1$, 所以
$E\left({\mathrm{e}}^{\mathrm{i}x}\right)$ 总是存在的,
即任一随机变量的特征函数总是存在的.
当离散随机变量 $X$ 的分布列为
$p_k=P\left(X=x_k\right),k=1,2,\cdots$, 则 $X$ 的特征函数为
$$\phi (t)=\sum _{k=1}^{\infty }{\mathrm{e}}^{\mathrm{it}{\mathrm{x}}_{\mathrm{k}}}{p}_k,-\infty <t<\infty .$$
当连续随机变量 $X$ 的密度函数为 $p(x)$, 则 $X$ 的特征函数为
$$\phi (t)={\int }_{-\infty }^{\infty }{\mathrm{e}}^{itx}p(x)\mathrm{d}x,-\infty <t<\infty .$$
与随机变量的数学期望、方差及各阶矩一样,
特征函数只依赖于随机变量的分布,分布相同则特征函数也相同,所以我们也常称为某分布的特征函数.
例 4.2 . 1 常用分布的特征函数 (一)
(1) 单点分布 $P(X=a)=1$, 其特征函数为
$$\phi (t)={\mathrm{e}}^{\mathrm{i}ta}.$$
(2) 0-1 分布 $P(X=x)=p^x(1-p{)}^{1-x},x=0,1$, 其特征函数为
$$\phi (t)=p{\mathrm{e}}^{\mathrm{i}t}+q,\text{ 其中 }q=1-p.$$
(3) 泊松分布
$P(\lambda )P(X=k)=\frac{{\lambda }^k}{k!}{\mathrm{e}}^{-\lambda },k=0,1,\cdots$,
其特征函数为
$$\phi (t)=\sum _{k=0}^{\infty }{\mathrm{e}}^{ikt}\frac{{\lambda }^k}{k!}{\mathrm{e}}^{-\lambda }={\mathrm{e}}^{-\lambda }{\mathrm{e}}^{\lambda {\mathrm{e}}^{it}}={\mathrm{e}}^{\lambda \left({\mathrm{e}}^{it}-1\right)}.$$
（4）均匀分布 $U(a,b)$ 因为密度函数为
$$p(x)=\{\begin{array}{ll}\frac{1}{b-a},& a<x<b,\\ 0,& \text{ 其他, }\end{array}$$
所以其特征函数为
$\phi (t)={\int }_a^b\frac{{\mathrm{e}}^{\mathrm{i}tx}}{b-a}\mathrm{d}x=\frac{{\mathrm{e}}^{\mathrm{i}bt}-{\mathrm{e}}^{\mathrm{i}at}}{\mathrm{i}t(b-a)}$.
（5）标准正态分布 $N(0,1)$ 因为密度函数为
$$p(x)=\frac{1}{\sqrt{2\pi }}{\mathrm{e}}^{-\frac{x^2}{2}},-\infty <x<\infty ,$$
所以其特征函数为
$$\phi (t)=\frac{1}{\sqrt{2\pi }}{\int }_{-\infty }^{\infty }{\mathrm{e}}^{\mathrm{itx}}{\mathrm{e}}^{-\frac{t^2}{2}}\mathrm{d}x=\frac{1}{\sqrt{2\pi }}{\int }_{-\infty }^{\infty }\sum _{n=0}^{\infty }\frac{(\mathrm{i}tx{)}^n}{n!}{\mathrm{e}}^{-\frac{x^2}{2}}\mathrm{d}x=\sum _{n=0}^{\infty }\frac{(\mathrm{i}t{)}^n}{n!}\left[\frac{1}{\sqrt{2\pi }}{\int }_{-\infty }^{\infty }{x}^n{\mathrm{e}}^{-\frac{t^2}{2}}\mathrm{d}x\right],$$
上式中方括号内正是标准正态分布的 $n$ 阶矩 $E\left(X^n\right)$. 当 $n$
为奇数时 $E\left(X^n\right)=0$; 当 $n$ 为偶数时, 如 $n=2m$ 时,
$$E\left(X^n\right)=E\left(X^{2m}\right)=(2m-1)!!=\frac{(2m)!}{2^m\cdot m!},$$
代回原式, 可得标准正态分布的特征函数
$$\phi (t)=\sum _{m=0}^{\infty }\frac{(\mathrm{i}t{)}^{2m}}{(2m)!}\cdot \frac{(2m)!}{2^m\cdot m!}=\sum _{m=0}^{\infty }{\left(-\frac{t^2}{2}\right)}^m\frac{1}{m!}={\mathrm{e}}^{-\frac{t^2}{2}}$$
有了标准正态分布的特征函数,再利用下节给出的特征函数的性质,
就很容易得到一般正态分布 $N\left(\mu ,{\sigma }^2\right)$ 的特征函数,
见例 4.2.2.
（6）指数分布 $\mathrm{Exp}(\lambda )$ 因为密度函数为
$$p(x)=\{\begin{array}{ll}\lambda {\mathrm{e}}^{-\lambda x},& x⩾0,\\ 0,& x<0,\end{array}$$
所以其特征函数为
$$\begin{array}{rl}\phi (t)& ={\int }_0^{\infty }{\mathrm{e}}^{\mathrm{i}tx}\lambda {\mathrm{e}}^{-\lambda x}\mathrm{d}x=\lambda \left[{\int }_0^{\infty }\cos (tx){\mathrm{e}}^{-\lambda x}\mathrm{d}x+\mathrm{i}{\int }_0^{\infty }\sin (tx){\mathrm{e}}^{-\lambda x}\mathrm{d}x\right]\\ & =\lambda \left(\frac{\lambda }{{\lambda }^2+t^2}+\mathrm{i}\frac{t}{{\lambda }^2+t^2}\right)={\left(1-\frac{\mathrm{i}t}{\lambda }\right)}^{-1}.\end{array}$$
以上积分中用到了复变函数中的欧拉公式
${\mathrm{e}}^{itx}=\cos (tx)+\mathrm{i}\sin (tx)$.
4.2.2 特征函数的性质
现在我们来研究特征函数的一些性质, 其中 ${\phi }_X(t)$ 表示 $X$
的特征函数, 其他类似.
性质 4.2.1 $|\phi (t)|⩽\phi (0)=1$.
性质 4.2.2 $\phi (-t)=\overline{\phi (t)}$, 其中
$\overline{\phi (t)}$ 表示 $\phi (t)$ 的共轭.
性质 4.2.3 若 $Y=aX+b$, 其中 $a,b$ 是常数, 则
$${\phi }_Y(t)={\mathrm{e}}^{\mathrm{ibt}}{\phi }_X(at).$$
性质 4.2.4 独立随机变量和的特征函数为每个随机变量的特征函数的积, 即设
$X$与 $Y$ 相互独立, 则
$${\phi }_{X+\gamma }(t)={\phi }_X(t){\phi }_Y(t).$$
性质 4.2.5 若 $E\left(X^t\right)$ 存在, 则 $X$ 的特征函数 $\phi (t)$
可 $l$ 次求导, 且对 $1⩽k⩽l$, 有
$${\phi }^{(k)}(0)={\mathrm{i}}^{k}E\left(X^k\right).$$
上式提供了一条求随机变量的各阶矩的途径, 特别可用下式去求数学期望和方差.
$$E(X)=\frac{{\phi }^{\prime }(0)}{\mathrm{i}},\mathrm{Var}(X)=-{\phi }^{\prime \prime }(0)+{\left({\phi }^{\prime }(0)\right)}^2.$$
证明 在此我们仅对连续场合进行证明,而在离散场合的证明是类似的.
(1)
$|\phi (t)|=\left|{\int }_{-\infty }^{\infty }{\mathrm{e}}^{\mathrm{i}tx}p(x)\mathrm{d}x\right|⩽{\int }_{-\infty }^{\infty }\left|{\mathrm{e}}^{\mathrm{i}tx}\right|p(x)\mathrm{d}x={\int }_{-\infty }^{\infty }p(x)\mathrm{d}x=\phi (0)=1$.
(2)
$\phi (-t)={\int }_{-\infty }^{\infty }{\mathrm{e}}^{-\mathrm{i}tx}p(x)\mathrm{d}x=\overline{{\int }_{-\infty }^{\infty }{\mathrm{e}}^{\mathrm{i}tx}p(x)\mathrm{d}x}=\overline{\phi (t)}$.
(3)
${\phi }_Y(t)=E\left({\mathrm{e}}^{\mathrm{i}t(aX+b)}\right)={\mathrm{e}}^{\mathrm{i}bt}E\left({\mathrm{e}}^{\mathrm{i}atX}\right)={\mathrm{e}}^{\mathrm{i}bt}{\phi }_X(at)$.
(4) 因为 $X$ 与 $Y$ 相互独立, 所以 ${\mathrm{e}}^{\mathrm{i}tX}$ 与
${\mathrm{e}}^{\mathrm{i}tY}$ 也是独立的, 从而有
$$E\left({\mathrm{e}}^{\mathrm{i}t(X+\gamma )}\right)=E\left({\mathrm{e}}^{\mathrm{i}tX}{\mathrm{e}}^{\mathrm{i}tY}\right)=E\left({\mathrm{e}}^{\mathrm{i}tX}\right)E\left({\mathrm{e}}^{\mathrm{i}tY}\right)={\phi }_X(t)\cdot {\phi }_Y(t).$$
(5) 因为 $E\left(X^l\right)$ 存在, 也就是
$${\int }_{-\infty }^{\infty }|x{|}^{t}p(x)\mathrm{d}x<\infty ,$$
于是含参变量 $t$ 的广义积分
${\int }_{-\infty }^{\infty }{\mathrm{e}}^{\mathrm{i}tx}p(x)\mathrm{d}x$
可以对 $t$ 求导 $l$ 次, 于是对 $0⩽k⩽l$, 有
$${\phi }^{(k)}(t)={\int }_{-\infty }^{\infty }{\mathrm{i}}^k{x}^k{\mathrm{e}}^{\mathrm{it}x}p(x)\mathrm{d}x={\mathrm{i}}^{k}E\left(X^k{\mathrm{e}}^{\mathrm{i}x}\right),$$
令 $t=0$ 即得
$${\phi }^{(k)}(0)={\mathrm{i}}^{k}E\left(X^k\right).$$
至此上述 5 条性质全部得证.
下例是利用性质 4.2 .3 和性质 4.2 .4 来求另一些常用分布的特征函数.
例 4.2.2 常用分布的特征函数 (二)
(1) 二项分布 $b(n,p)$ 设随机变量 $Y\sim b(n,p)$, 则
$Y=X_1+X_2+\cdots +X_n$, 其中诸 $X_i$ 是相互独立同分布的随机变量,
且 $X_i\sim b(1,p)$. 由例 $\mathrm{4.2.1}(2)$ 知
$${\phi }_{x_i}(t)=p{\mathrm{e}}^{\mathrm{i}}+q.$$
所以由独立随机变量和的特征函数为特征函数的积, 得
$${\phi }_Y(t)={\left(p{\mathrm{e}}^{\mathrm{i}t}+q\right)}^n.$$
(2) 正态分布 $N\left(\mu ,{\sigma }^2\right)$ 设随机变量
$Y\sim N\left(\mu ,{\sigma }^2\right)$, 则
$X=(Y-\mu )/\sigma \sim N(0,1)$. 由例 4.2.1 知
$${\phi }_x(t)={\mathrm{e}}^{-\frac{t^2}{2}}$$
所以由 $Y=\sigma X+\mu$ 和性质 4.2 .3 得
$${\phi }_Y(t)={\phi }_{\sigma X+\mu }(t)={\mathrm{e}}^{i\omega t}{\phi }_X(\sigma t)=\exp \left\{i\mu t-\frac{{\sigma }^2{t}^2}{2}\right\}.$$
(3) 伽马分布 $Ga(n,\lambda )$ 设随机变量 $Y\sim Ga(n,\lambda )$, 则
$Y=X_1+X_2+\cdots +X_n$, 其中 $X_i$独立同分布,且
$X_i\sim \mathrm{Exp}(\lambda )$. 由例 4.2 .1 知
$${\phi }_{x_i}(t)={\left(1-\frac{\mathrm{i}t}{\lambda }\right)}^{-1}.$$
所以由独立随机变量和的特征函数为特征函数的积, 得
$${\phi }_Y(t)={\left({\phi }_{x_1}(t)\right)}^n={\left(1-\frac{it}{\lambda }\right)}^{-n}.$$
进一步, 当 $\alpha$ 为任一正实数时,我们可得 $Ga(\alpha ,\lambda )$
分布的特征函数为
$$\phi (t)={\left(1-\frac{\mathrm{i}t}{\lambda }\right)}^{-\alpha }.$$
(4) ${\chi }^2(n)$ 分布 因为 ${\chi }^2(n)=Ga(n/2,1/2)$, 所以
${\chi }^2(n)$ 分布的特征函数为
$$\phi (t)=(1-2\mathrm{i}t{)}^{-n/2}.$$
上述常用分布的特征函数汇总在表 4.2 .1 中.
所以由 (4.2.9) 式得
$$\begin{array}{rl}E(X)& =\frac{{\phi }^{\prime }(0)}{\mathrm{i}}=\frac{\alpha }{\lambda },\\ \mathrm{Var}(X)& =-{\phi }^{\prime \prime }(0)+{\left({\phi }^{\prime }(0)\right)}^2=\frac{\alpha (\alpha +1)}{{\lambda }^2}+{\left(\frac{\alpha \mathrm{i}}{\lambda }\right)}^2\\ & =\frac{\alpha (\alpha +1)}{{\lambda }^2}-\frac{{\alpha }^2}{{\lambda }^2}=\frac{\alpha }{{\lambda }^2}.\end{array}$$
特征函数还有以下一些优良性质.
定理 4.2.1 (一致连续性) 随机变量 $X$ 的特征函数 $\phi (t)$ 在
$(-\infty ,\infty )$ 上一致连续.
证明 设 $X$ 是连续随机变量 (离散随机变量的证明是类似的), 其密度函数为
$p(x)$, 则对任意实数 $t,h$ 和正数 $a>0$, 有
$$\begin{array}{rl}|\phi (t+h)-\phi (t)|& =\left|{\int }_{-\infty }^{\infty }\left({\mathrm{e}}^{\mathrm{i}hx}-1\right){\mathrm{e}}^{\mathrm{i}tx}p(x)\mathrm{d}x\right|\\ & ⩽{\int }_{-\infty }^{\infty }\left|{\mathrm{e}}^{\mathrm{i}hx}-1\right|p(x)\mathrm{d}x\\ & ⩽{\int }_{-a}^a\left|{\mathrm{e}}^{\mathrm{i}hx}-1\right|p(x)\mathrm{d}x+2{\int }_{|x|⩾a}p(x)\mathrm{d}x.\end{array}$$
对任意的 $\epsilon >0$, 先取定一个充分大的 $a$, 使得
$$2{\int }_{|x|⩾0}p(x)\mathrm{d}x<\frac{\epsilon }{2},$$
然后对任意的 $x\in [-a,a]$, 只要取 $\delta =\frac{\epsilon }{2a}$,
则当 $|h|<\delta$ 时, 便有
$$\left|{\mathrm{e}}^{\mathrm{i}hx}-1\right|=\left|{\mathrm{e}}^{\mathrm{i}\frac{\hslash }{2}x}\left({\mathrm{e}}^{\mathrm{i}\frac{\hslash }{2}x}-{\mathrm{e}}^{-i\frac{\hslash }{2}x}\right)\right|=2\left|\sin \frac{hx}{2}\right|⩽2\left|\frac{hx}{2}\right|⩽ha<\frac{\epsilon }{2}.$$
从而对所有的 $t\in (-\infty ,\infty )$, 有
$$|\phi (t+h)-\phi (t)|<{\int }_{-a}^a\frac{\epsilon }{2}p(x)\mathrm{d}x+\frac{\epsilon }{2}⩽\epsilon ,$$
即 $\phi (t)$ 在 $(-\infty ,\infty )$ 上一致连续.
定理 4.2.2 (非负定性) 随机变量 $X$ 的特征函数 $\phi (t)$ 是非负定的,
即对任意正整数 $n$ 及 $n$ 个实数 $t_1,t_2,\cdots ,t_n$ 和 $n$
个复数 $z_1,z_2,\cdots ,z_n$, 有
$$\sum _{k=1}^n\sum _{j=1}^n\phi \left(t_k-t_j\right)z_k{\bar{z}}_j⩾0.$$
证明 仍设 $X$ 是连续随机变量 (离散随机变量的证明是类似的), 其密度函数为
$p(x)$, 则有
$$\begin{array}{rl}\sum _{k=1}^n\sum _{j=1}^n\phi \left(t_k-t_j\right)z_k\overline{z_j}& =\sum _{k=1}^n\sum _{j=1}^n{z}_k\overline{z_j}{\int }_{-\infty }^{\infty }{\mathrm{e}}^{\mathrm{i}\left(t_k-t_j\right)x}p(x)\mathrm{d}x\\ & ={\int }_{-\infty }^{\infty }\sum _{k=1}^n\sum _{j=1}^n{z}_k-{\bar{z}}_j{\mathrm{e}}^{i\left(t_k-t_j\right)x}p(x)\mathrm{d}x\\ & ={\int }_{-\infty }^{\infty }\left(\sum _{k=1}^n{z}_k{\mathrm{e}}^{i{t}_{k}x}\right)\left(\sum _{j=1}^n\overline{z_j}{\mathrm{e}}^{-\mathrm{i}{t}_p^x}\right)p(x)\mathrm{d}x\end{array}$$
$$={\int }_{-\infty }^{\infty }{\left|\sum _{k=1}^n{z}_k{\mathrm{e}}^{i{t}_{k}x}\right|}^{2}p(x)\mathrm{d}x⩾0$$
这就证明了 (4.2.10) 式.
4.2.3 特征函数唯一决定分布函数
由特征函数的定义可知,随机变量的分布唯一地确定了它的特征函数.
前面的讨论实际上都是从随机变量的分布出发, 讨论特征函数及其性质.
要注意的是: 如果两个分布的数学期望、方差及各阶矩都相等,
也无法证明此两个分布相等. 但特征函数却不同,
它有着比数学期望、方差及各阶矩更优良的性质: 即特征函数完全决定了分布,
也就是说,两个分布函数相等当且仅当它们所对应的特征函数相等.下面来讨论这个问题.
定理 4.2.3 (逆转公式) 设 $F(x)$ 和 $\phi (t)$ 分别为随机变量 $X$
的分布函数和特征函数, 则对 $F(x)$ 的任意两个连续点 $x_1<x_2$, 有
$$F\left(x_2\right)-F\left(x_1\right)=\underset{T\to \infty }{\lim }\frac{1}{2\pi }{\int }_{-T}^T\frac{{\mathrm{e}}^{-it{x}_1}-{\mathrm{e}}^{-\mathrm{i}t{x}_2}}{\mathrm{i}t}\phi (t)\mathrm{d}t.$$
证明 设 $X$ 是连续随机变量 (离散随机变量的证明是类似的), 其密度函数为
$p(x)$. 记
$$J_T=\frac{1}{2\pi }{\int }_{-T}^T\frac{{\mathrm{e}}^{-\mathrm{i}t{x}_1}-{\mathrm{e}}^{-\mathrm{i}t{x}_2}}{\mathrm{i}t}\phi (t)\mathrm{d}t=\frac{1}{2\pi }{\int }_{-T}^T\left[{\int }_{-\infty }^{\infty }\frac{{\mathrm{e}}^{-\mathrm{i}t{x}_1}-{\mathrm{e}}^{-\mathrm{i}t{x}_2}}{\mathrm{i}t}{\mathrm{e}}^{\mathrm{i}t{x}_1}p(x)\mathrm{d}x\right]\mathrm{d}t.$$
对任意的实数 $a$,有
$$\left|{\mathrm{e}}^{ia}-1\right|⩽|a|,$$
事实上, 对 $a⩾0$ 有
$$\left|{\mathrm{e}}^{\mathrm{i}a}-1\right|=\left|{\int }_0^a{\mathrm{e}}^{\mathrm{i}x}\mathrm{d}x\right|⩽{\int }_0^a\left|{\mathrm{e}}^{\mathrm{ix}}\right|\mathrm{d}x=a,$$
对 $a<0$ 有
$$\left|{\mathrm{e}}^{\mathrm{i}a}-1\right|=\left|{\mathrm{e}}^{\mathrm{i}\theta }\left({\mathrm{e}}^{\mathrm{i}|a|}-1\right)\right|=\left|{\mathrm{e}}^{\mathrm{i}|a|}-1\right|⩽|a|.$$
因此
$$\left|\frac{{\mathrm{e}}^{-\mathrm{i}t{x}_1}-{\mathrm{e}}^{-it{x}_2}}{\mathrm{i}t}{\mathrm{e}}^{\mathrm{i}tx}\right|⩽x_2-x_1,$$
即 $J_T$ 中被积函数有界, 所以可以交换积分次序, 从而得
$$\begin{array}{rl}{J}_T& =\frac{1}{2\pi }{\int }_{-\infty }^{\infty }\left[{\int }_{-T}^T\frac{{\mathrm{e}}^{-it{x}_1}-{\mathrm{e}}^{-\mathrm{i}t{x}_2}}{\mathrm{i}t}{\mathrm{e}}^{\mathrm{i}tx}\mathrm{d}t\right]p(x)\mathrm{d}x\\ & =\frac{1}{2\pi }{\int }_{-\infty }^{\infty }\left[{\int }_0^T\frac{{\mathrm{e}}^{\mathrm{i}\left(x-x_1\right)}-{\mathrm{e}}^{-\mathrm{i}t\left(x-x_1\right)}-{\mathrm{e}}^{\mathrm{i}\left(x-x_2\right)}+{\mathrm{e}}^{-\mathrm{i}t\left(x-x_2\right)}}{\mathrm{i}t}\mathrm{d}t\right]p(x)\mathrm{d}x\\ & =\frac{1}{\pi }{\int }_{-\infty }^{\infty }\left[{\int }_0^T\left(\frac{\sin t\left(x-x_1\right)}{t}-\frac{\sin t\left(x-x_2\right)}{t}\right)\mathrm{d}t\right]p(x)\mathrm{d}x.\end{array}$$
又记
$$g\left(T,x,x_1,x_2\right)=\frac{1}{\pi }{\int }_0^T\left[\frac{\sin t\left(x-x_1\right)}{t}-\frac{\sin t\left(x-x_2\right)}{t}\right]\mathrm{d}t,$$
则由数学分析中的狄利克雷(Dirichlet) 积分
$$D(a)=\frac{1}{\pi }{\int }_0^{\infty }\frac{\sin at}{t}\mathrm{d}t=\{\begin{array}{ll}\frac{1}{2},& a>0,\\ 0,& a=0,\\ -\frac{1}{2},& a<0.\end{array}$$
知
$$\underset{T\to \infty }{\lim }g\left(T,x,x_1,x_2\right)=D\left(x-x_1\right)-D\left(x-x_2\right).$$
分别考察 $x$ 在区间 $\left(x_1,x_2\right)$
的端点及内外时相应狄利克雷积分的值即可得
$$\underset{T\to \infty }{\lim }g\left(T,x,x_1,x_2\right)=\{\begin{array}{ll}0,& x<x_1\text{ 或 }x>x_2,\\ \frac{1}{2},& x=x_1\text{ 或 }x=x_2,\\ 1,& x_1<x<x_2,\end{array}$$
且 $\left|g\left(T,x,x_1,x_2\right)\right|$ 有界,
从而可以把积分号与极限号交换, 故有
$$\underset{T\to \infty }{\lim }{J}_T={\int }_{-\infty }^{\infty }\underset{T\to \infty }{\lim }g\left(T,x,x_1,x_2\right)p(x)\mathrm{d}x={\int }_{x_1}^{x_2}p(x)\mathrm{d}x=F\left(x_2\right)-F\left(x_1\right).$$
定理得证.
定理 4.2.4(唯一性定理) 随机变量的分布函数由其特征函数唯一决定.
证明 对 $F(x)$ 的每一个连续点 $x$, 当 $y$ 沿着 $F(x)$ 的连续点趋于
$-\infty$ 时, 由逆转公式得
$$F(x)=\underset{y\to -\infty }{\lim }\underset{T\to \infty }{\lim }\frac{1}{2\pi }{\int }_{-T}^T\frac{{\mathrm{e}}^{-\mathrm{it}y}-{\mathrm{e}}^{-\mathrm{i}tx}}{\mathrm{i}t}\phi (t)\mathrm{d}t,$$
而分布函数由其连续点上的值唯一决定, 故结论成立.
特别, 当 $X$ 为连续随机变量,有下述更强的结果.
定理 4.2.5 若 $X$ 为连续随机变量, 其密度函数为 $p(x)$, 特征函数为
$\phi (t)$. 如果
${\int }_{-\infty }^{\infty }|\phi (t)|\mathrm{d}t<\infty$, 则
$$p(x)=\frac{1}{2\pi }{\int }_{-\infty }^{\infty }{\mathrm{e}}^{-itx}\phi (t)\mathrm{d}t.$$
证明 记 $X$ 的分布函数为 $F(x)$, 由逆转公式知
$$p(x)=\underset{\Delta x\to 0}{\lim }\frac{F(x+\Delta x)-F(x)}{\Delta x}=\underset{\Delta x\to 0}{\lim }\frac{1}{2\pi }{\int }_{-\infty }^{\infty }\frac{{\mathrm{e}}^{-\mathrm{i}tx}-{\mathrm{e}}^{-\mathrm{i}t(x+\Delta x)}}{\mathrm{i}t\cdot \Delta x}\phi (t)\mathrm{d}t.$$
再次利用不等式 $\left|{\mathrm{e}}^{ia}-1\right|⩽|a|$, 就有
$$\left|\frac{{\mathrm{e}}^{-\mathrm{itx}}-{\mathrm{e}}^{-\mathrm{it}(x+\Delta x)}}{\mathrm{it}\cdot \Delta x}\right|⩽1.$$
又因为 ${\int }_{-\infty }^{\infty }|\phi (t)|\mathrm{d}t<\infty$,
所以可以交换极限号和积分号, 即
$$p(x)=\frac{1}{2\pi }{\int }_{-\infty }^{\infty }\underset{\Delta x\to 0}{\lim }\frac{{\mathrm{e}}^{-\mathrm{i}tx}-{\mathrm{e}}^{-\mathrm{i}(x+\Delta \mathrm{x})}}{\mathrm{i}t\cdot \Delta x}\phi (t)\mathrm{d}t=\frac{1}{2\pi }{\int }_{-\infty }^{\infty }{\mathrm{e}}^{-\mathrm{i}tx}\phi (t)\mathrm{d}t.$$
定理得证.
(4.2.12) 式在数学分析中也称为傅里叶逆变换, 所以 (4.2.3) 式和 (4.2.12)
式实质上是一对互逆的变换：
$$\begin{array}{c}\phi (t)={\int }_{-\infty }^{\infty }{\mathrm{e}}^{\mathrm{i}tx}p(x)\mathrm{d}x,\\ p(x)=\frac{1}{2\pi }{\int }_{-\infty }^{\infty }{\mathrm{e}}^{-\mathrm{i}tx}\phi (t)\mathrm{d}t.\end{array}$$

即特征函数是密度函数的傅里叶变换, 而密度函数是特征函数的傅里叶逆变换.
在此着重指出: 在概率论中, 独立随机变量和的问题占有 "中心"地位,
用卷积公式去处理独立随机变量和的问题相当复杂,
而引人了特征函数可以很方便地用特征函数相乘求得独立随机变量和的特征函数,再由唯一性定理,
从独立随机变量和的特征函数来识别独立随机变量和的分布.
由此大大简化了处理独立随机变量和的难度. 读者可从下例中体会出这一点.
例 4.2.4 在 3.3 节中,
我们用卷积公式通过复杂的计算证明了二项分布、泊松分布、伽马分布和
${\chi }^2$ 分布的可加性. 现在用特征函数方法 (性质 4.2 .4 和唯一性定理)
可以很方便地证明正态分布的可加性.
设随机变量
$X\sim N\left({\mu }_1,{\sigma }_1^2\right),Y\sim N\left({\mu }_2,{\sigma }_2^2\right)$,
且 $X$ 与 $Y$ 独立, 其特征函数分别为
$${\phi }_X(t)={\mathrm{e}}^{\mathrm{i}{\mu }_1-\frac{{\sigma }_1^2,2}{2}},{\phi }_Y(t)={\mathrm{e}}^{\mathrm{i}{\mu }_2-\frac{{\sigma }_2^2,2}{2}},$$
所以由性质 4.2 .4 得
$${\phi }_{X+\gamma }(t)={\phi }_X(t)\cdot {\phi }_Y(t)={\mathrm{e}}^{\mathrm{i}t\left({\mu }_1+{\mu }_2\right)-\frac{({\sigma }_1^2\cdot {\sigma }_2^2,{\mu }^2}{2}}.$$
这正是 $N\left({\mu }_1+{\mu }_2,{\sigma }_1^2+{\sigma }_2^2\right)$
的特征函数, 再由特征函数的唯一性定理, 即知
$$X+Y\sim N\left({\mu }_1+\cdot {\mu }_2,{\sigma }_1^2+{\sigma }_2^2\right).$$
同理可证: 若 $X_j$ 相互独立, 且
$X_j\sim N\left({\mu }_j,{\sigma }_j^2\right),j=1,2,\cdots ,n$, 则
$$\sum _{j=1}^n{X}_j\sim N\left(\sum _{j=1}^n{\mu }_j,\sum _{j=1}^n{\sigma }_j^2\right).$$
例 4.2.5 已知连续随机变量的特征函数如下, 求其分布:
(1) ${\phi }_1(t)={\mathrm{e}}^{-|t|}$;
(2) ${\phi }_2(t)=\frac{\sin at}{at}$.
解 (1) 由逆转公式 (4.2.12) 可知其密度函数为
$$\begin{array}{rl}p(x)& =\frac{1}{2\pi }{\int }_{-\infty }^{\infty }{\mathrm{e}}^{-\mathrm{i}xt}\cdot {\mathrm{e}}^{-|t|}\mathrm{d}t\\ & =\frac{1}{2\pi }{\int }_0^{\infty }{\mathrm{e}}^{-(1+\mathrm{i}x)t}\mathrm{d}t+\frac{1}{2\pi }{\int }_{-\infty }^0{\mathrm{e}}^{(1-ix)t}\mathrm{d}t\\ & =\frac{1}{2\pi }\left(\frac{1}{1+\mathrm{i}x}+\frac{1}{1-\mathrm{i}x}\right)=\frac{1}{\pi \left(1+x^2\right)}.\end{array}$$
这是柯西分布, 所以特征函数 ${\phi }_1(t)={\mathrm{e}}^{-|t|}$
对应的是柯西分布.
(2) ${\phi }_2(t)=\frac{\sin at}{at}$ 是均匀分布 $U(-a,a)$
的特征函数, 由唯一性定理知, 该特征函数
对应的分布不是别的, 只能是均匀分布 $U(-a,a)$.
下面的定理指出:
分布函数序列的弱收敛性与相应的特征函数序列的点点收敛性是等价的.
定理 4.2.6 分布函数序列 { F n ( x ) } \left\{F_{n}(x)\right\} {Fn​(x)} 弱收敛于分布函数
$F(x)$ 的充要条件是 { F n ( x ) } \left\{F_{n}(x)\right\} {Fn​(x)} 的特征函数序列
{ φ n ( t ) } \left\{\varphi_{n}(t)\right\} {φn​(t)} 收敛于 $F(x)$ 的特征函数 $\phi (t)$.
这个定理的证明只涉及数学分析的一些结果, 且证明比较壳长 (参阅文献
[1]),在此就不介绍了. 通常把以上定理称为特征函数的连续性定理,
因为它表明分布函数与特征函数的一一对应关系有连续性.
例 4.2.6 若 $X_{\lambda }$ 服从参数为 $\lambda$ 的泊松分布, 证明:
$$\underset{\lambda \to \infty }{\lim }P\left(\frac{X_{\lambda }-\lambda }{\sqrt{\lambda }}⩽x\right)=\frac{1}{\sqrt{2\pi }}{\int }_{-\infty }^x{\mathrm{e}}^{-\frac{t^2}{2}}\mathrm{d}t.$$
证明 已知 $X_{\lambda }$ 的特征函数为
${\phi }_{\lambda }(t)=\exp \left\{\lambda \left({\mathrm{e}}^{\mathrm{i}}-1\right)\right\}$,
故 $Y_{\lambda }=\frac{X_{\lambda }-\lambda }{\sqrt{\lambda }}$ 的特征函数为
g λ ( t ) = φ λ ( t λ ) exp ⁡ { − i λ t } = exp ⁡ { λ ( e i λ − 1 ) − i λ t } . g_{\lambda}(t)=\varphi_{\lambda}\left(\frac{t}{\sqrt{\lambda}}\right) \exp \{-\mathrm{i} \sqrt{\lambda} t\}=\exp \left\{\lambda\left(\mathrm{e}^{\mathrm{i} \sqrt{\lambda}}-1\right)-\mathrm{i} \sqrt{\lambda} t\right\} . gλ​(t)=φλ​(λ ​t​)exp{−iλ ​t}=exp{λ(eiλ ​−1)−iλ ​t}.
对任意的 $t$, 有
$$\exp \left\{\mathrm{i}\frac{t}{\sqrt{\lambda }}\right\}=1+\frac{\mathrm{i}t}{\sqrt{\lambda }}-\frac{t^2}{2!\lambda }+o\left(\frac{1}{\lambda }\right)$$
于是
$$\lambda \left({\mathrm{e}}^{\frac{i}{\sqrt{\lambda }}}-1\right)-\mathrm{i}\sqrt{\lambda }t=-\frac{t^2}{2}+\lambda \cdot o\left(\frac{1}{\lambda }\right)\to -\frac{t^2}{2},\lambda \to \infty .$$
从而有
$$\underset{\lambda \to \infty }{\lim }{g}_{\lambda }(t)={\mathrm{e}}^{-t^2/2},$$
而 ${\mathrm{e}}^{-t^2/2}$ 正是标准正态分布 $N(0,1)$ 的特征函数,
由定理 4.2 .6 即知结论成立.
题 4.2
1. 设离散随机变量 $X$ 的分布列如下, 试求 $X$ 的特征函数.
$X$ 0 1 2 3

---

$P$ 0.4 0.3 0.2 0.1
2. 设离散随机变量 $X$ 服从几何分布
$$P(X=k)=(1-p{)}^{k-1}p,k=1,2,\cdots .$$
试求 $X$ 的特征函数, 并以此求 $E(X)$ 和 $\mathrm{Var}(X)$.
3. 设离散随机变量 $X$ 服从帕斯卡分布
$$P(X=k)=\left(\begin{array}{l}k-1\\ r-1\end{array}\right)p^{\prime }(1-p{)}^{k-r},k=r,r+1,\cdots .$$
试求 $X$ 的特征函数.
4. 求下列分布函数的特征函数, 并由特征函数求其数学期望和方差:
(1)
$F_1(x)=\frac{a}{2}{\int }_{-\infty }^t{\mathrm{e}}^{-att\mid }\mathrm{d}t(a>0)$;
(2)
$F_2(x)=\frac{a}{\pi }{\int }_{-\infty }^x\frac{1}{t^2+a^2}\mathrm{d}t(a>0)$.
5. 设随机变量 $X\sim N\left(\mu ,{\sigma }^2\right)$,
试用特征函数的方法求 $X$ 的 3 阶及 4 阶中心矩.
6. 试用特征函数的方法证明二项分布的可加性: 若随机变量
$X\sim b(n,p),Y\sim b(m,p)$, 且 $X$ 与 $Y$独立, 则
$X+Y\sim b(n+m,p)$.
7. 试用特征函数的方法证明泊松分布的可加性: 若随机变量
$X\sim P\left({\lambda }_1\right),Y\sim P\left({\lambda }_2\right)$, 且
$X$ 与 $Y$ 独立, 则 $X+Y\sim P\left({\lambda }_1+{\lambda }_2\right)$.
8. 试用特征函数的方法证明伽马分布的可加性: 若随机变量
$X\sim Ga\left({\alpha }_1,\lambda \right),Y\sim Ga\left({\alpha }_2,\lambda \right)$,
且 $X$与 $Y$ 独立, 则
$X+Y\sim Ga\left({\alpha }_1+{\alpha }_2,\lambda \right)$.
9. 试用特征函数的方法证明 ${\chi }^2$ 分布的可加性: 若随机变量
$X\sim {\chi }^2(n),Y\sim {\chi }^2(m)$, 且 $X$ 与 $Y$ 独立,则
$X+Y\sim X^2(n+m)$.
10. 设随机变量 $X_i$ 独立同分布, 且
$X_i\sim \mathrm{Exp}(\lambda ),i=1,2,\cdots ,n$,
试用特征函数的方法证明:
$$Y_n=\sum _{i=1}^n{X}_i\sim Ga(n,\lambda ).$$
11. 设连续随机变量 $X$ 服从柯西分布,密度函数如下:
$$p(x)=\frac{1}{\pi }\cdot \frac{\lambda }{{\lambda }^2+(x-\mu {)}^2},-\infty <x<\infty ,$$
其中参数 $\lambda >0,-\infty <\mu <\infty$, 常记为
$X\sim \mathrm{Cau}(\lambda ,\mu )$.
（1）试证 $X$ 的特征函数为 exp ⁡ { i μ t − λ ∣ t ∣ } \exp \{i \mu t-\lambda|t|\} exp{iμt−λ∣t∣},
且利用此结果证明柯西分布的可加性;
(2) 当 $\mu =0,\lambda =1$ 时, 记 $Y=X$, 试证
${\phi }_{X+Y}(t)={\phi }_X(t)\cdot {\phi }_Y(t)$, 但是 $X$ 与 $Y$
不独立;
(3) 若 $X_1,X_2,\cdots ,X_n$ 相互独立, 且服从同一柯西分布,
试证: $\frac{1}{n}\left(X_1+X_2+\cdots +X_n\right)$ 与 $X_1$
同分布.
12. 设连续随机变量 $X$ 的密度函数为 $p(x)$, 试证: $p(x)$
关于原点对称的充要条件是它的特征函数是实的偶函数.
13. 设随机变量 $X_1,X_2,\cdots ,X_n$ 独立同分布, 且都服从
$N\left(\mu ,{\sigma }^2\right)$ 分布, 试求
$\bar{X}=\frac{1}{n}{\sum }_{i=1}^n{X}_i$ 的分布.
14. 利用特征函数方法证明如下的泊松定理: 设有一列二项分布
{ b ( k , n , p n ) } \left\{b\left(k, n, p_{n}\right)\right\} {b(k,n,pn​)}, 若
$\underset{n\to \infty }{\lim }n{p}_n=\lambda$, 则
$$\underset{n\to \infty }{\lim }b\left(k,n,p_n\right)=\frac{{\lambda }^k}{k!}{\mathrm{e}}^{-\lambda },k=0,1,2,\cdots .$$
15. 设随机变量 $X\sim Ga(\alpha ,\lambda )$, 证明: 当
$\alpha \to \infty$ 时,随机变量
$(\lambda X-\alpha )/\sqrt{\alpha }$ 技分布收敛于标准正态变量.