随机变量的特征函数及应用

---

前言

本文将对常见随机变量如泊松分布、正态分布、二项分布、均匀分布、柯西分布等分布的特征函数的定义、求解，特征函数和随机变量各阶矩之间的关系及其应用作以介绍，通过特征函数求解部分随机变量的均值和方差将变得较为简便。

---

1 特征函数定义

对于随机变量 $X$ ，若其分布函数为$F_X(x)$，则其特征函数定义为：

$$\phi (t)={\phi }_X(t)=E{e}^{jtX}={\int }_{-\infty }^{\infty }{e}^{jtx}\mathrm{d}{F}_X(x)$$

其中， $E$ 代表数学期望， $t$ 为实数， $j$ 为虚数单位，显然特征函数为 $t$ 的复值函数。且由于：

$$\left|\phi (t)\right|=\left|{\int }_{-\infty }^{\infty }{e}^{jtx}\mathrm{d}{F}_X(x)\right|\le {\int }_{-\infty }^{\infty }\left|e^{jtx}\right|\mathrm{d}{F}_X(x)=1$$

因此随机变量的特征函数总是存在的；且如果两个随机变量具有相同的特征函数，那么它们具有相同的概率分布，反之如果两个随机变量具有相同的概率分布，它们的特征函数也相同。

如果随机变量为连续性随机变量，且其概率密度函数为 $f(x)$ ，则特征函数可表示为：

$$\phi (t)={\int }_{-\infty }^{\infty }{e}^{jtx}f(x)\mathrm{d}x$$

如果随机变量为离散型随机变量，且其分布列为 $p(x_i)$ ，则特征函数可表示为：

$$\phi (t)=\sum _{i=1}^{\infty }{e}^{jtx}p(x_i)$$

2 特征函数常用性质

特征函数常用性质如下：

(1) $\phi (0)=1,\phi (t)\le \phi (0),\phi (-t)=\bar{\phi }(t)$

(2) 若 $Y=aX+b$ ，则：

$${\phi }_Y(t)=e^{jbt}{\phi }_X(at)$$

(3) 若 $X$ 与 $Y$ 相互独立，且 $Z=X+Y$ ，则：

$${\phi }_Z(t)={\phi }_X(t){\phi }_Y(t)$$

(4) 若随机变量 $X$ 具有 $n$ 阶矩，则其特征函数 $n$ 阶可导，且当 $0\le k\le n$ 时，有：

$${\phi }^{(k)}(0)=j^{k}E{X}^k$$

此条性质可用于求解随机变量的各阶矩(若存在)，有时可以避免进行复杂的无穷积分。

3 常见分布特征函数求解

常见分布的特征函数总结如下：

$$\begin{array}{cc}\text{ 分布 }& \text{ 特征函数 }\\ \text{ 两点分布 }& p{e}^{jt}+q\\ \text{ 二项分布 }& {\left(p{e}^{jt}+q\right)}^n\\ \text{ 泊松分布 }& e^{\lambda \left(e^{jt}-1\right)}\\ \text{ 正态分布 }& e^{j\mu t-\frac{{\sigma }^2{t}^2}{2}}\\ \text{ 几何分布 }& \frac{p{e}^{jt}}{1-q{e}^{jt}}\\ \text{ 均匀分布 }& \frac{e^{jtb}-e^{jta}}{jt(b-a)}\\ \text{ 柯西分布 }& e^{jta-\mid \lambda t\mid }\\ \text{ 指数分布 }& \frac{\lambda }{(\lambda -jt)}\\ \text{ 伽马分布 }& {\left(\frac{\lambda }{\lambda -jt}\right)}^r\\ \text{ 拉普拉斯分布 }& \frac{e^{j\mu t}}{1+{\lambda }^2{t}^2}\end{array}$$

3.1 两点分布

两点分布的分布律为：

$$P(X=1)=p(0<p<1),P(X=0)=q$$

根据特征函数定义，其特征函数求解如下：

$$\phi (t)=e^{jt\cdot 1}p+e^{jt\cdot 0}q=p{e}^{jt}+q$$

3.2 二项分布

二项分布的分布律为：

$$P(X=k)=C_n^k{p}^k{q}^{n-k}(0<p<1;k=0,1,...,n)$$

根据特征函数定义，其特征函数求解如下：

$$\phi (t)=\sum _{k=0}^{\infty }{e}^{jtk}{C}_n^k{p}^k{q}^{n-k}=\sum _{k=0}^{\infty }{C}_n^k{(p{e}^{jt})}^k{q}^{n-k}={(p{e}^{jt}+q)}^n$$

3.3 泊松分布

泊松分布的分布律为：

$$P(X=k)=\frac{{\lambda }^k}{k!}{e}^{-\lambda }(\lambda >0;k=0,1,2,...)$$

根据特征函数定义，其特征函数求解如下：

$$\phi (t)=\sum _{k=0}^{\infty }{e}^{jtk}\frac{{\lambda }^k}{k!}{e}^{-\lambda }=\sum _{k=0}^{\infty }\frac{{\left(\lambda e^{jt}\right)}^k}{k!}{e}^{-\lambda }=e^{\lambda \left(e^{jt}-1\right)}$$

3.4 正态分布

正态分布的概率密度函数为：

$$f(x)=\frac{1}{\sqrt{2\pi }\sigma }{e}^{-\frac{(x-\mu {)}^2}{2}},\sigma >0$$

下面首先计算标准正态分布的特征函数，根据特征函数定义，标准正态分布的特征函数为：

$$\begin{array}{rl}\phi (t)& ={\int }_{-\infty }^{\infty }{e}^{jtx}\frac{1}{\sqrt{2\pi }}{e}^{-\frac{x^2}{2}}\mathrm{d}x={\int }_{-\infty }^{\infty }\frac{1}{\sqrt{2\pi }}{e}^{-\frac{(x-jt{)}^2}{2}-\frac{t^2}{2}}\mathrm{d}x\\ & =e^{-\frac{t^2}{2}}{\int }_{-\infty }^{\infty }\frac{1}{\sqrt{2\pi }}{e}^{-\frac{(x-jt{)}^2}{2}}\mathrm{d}x=e^{-\frac{t^2}{2}}\end{array}$$

其中 $\frac{1}{\sqrt{2\pi }}{e}^{-\frac{(x-jt{)}^2}{2}}$ 可以看作一服从均值为 $jt$ ，标准差为 $1$ 的正态分布的概率密度函数，因此 ${\int }_{-\infty }^{\infty }\frac{1}{\sqrt{2\pi }}{e}^{-\frac{(x-jt{)}^2}{2}}\mathrm{d}x=1$ 。

对于一般的正态分布，可通过变量替换与标准正态分布联系起来，即：

$$X\sim N\left(\mu ,{\sigma }^2\right)\stackrel{Y=\frac{X-\mu }{\sigma }}{⟶}Y\sim N(0,1)$$

那么，由性质(2)可得正态分布的特征函数为：

$$\phi (t)={\phi }_X(t)=e^{j\mu t}{\phi }_Y(\sigma t)=e^{j\mu t-\frac{{\sigma }^2{t}^2}{2}}$$

3.5 几何分布

几何分布的分布律为：

$$P(X=k)=p{q}^{k-1}(0<p<1;k=1,2,\dots )$$

根据特征函数定义，其特征函数求解如下：

$$\phi (t)=\sum _{k=1}^{\infty }{e}^{jtk}p{q}^{k-1}=\frac{p}{q}\sum _{k=1}^{\infty }{\left(q{e}^{jt}\right)}^k=\frac{p}{q}\frac{q{e}^{jt}}{1-q{e}^{jt}}=\frac{p{e}^{jt}}{1-q{e}^{jt}}$$

3.6 均匀分布

均匀分布的概率密度函数为：

$$f(x)=\{\begin{array}{ll}\frac{1}{b-a}& a\le x\le b\\ 0& x<a\text{ 或 }x>b\end{array}$$

根据特征函数定义，其特征函数求解如下：

$$\phi (t)={\int }_a^b{e}^{jtx}\frac{1}{b-a}\mathrm{d}x={\frac{1}{b-a}\frac{e^{jtx}}{jt}|}_a^b=\frac{e^{jtb}-e^{jta}}{jt(b-a)}$$

3.7 柯西分布

柯西分布的概率密度函数为：

$$f(x)=\frac{1}{\pi }\frac{\lambda }{(x-a{)}^2+{\lambda }^2},\lambda >0$$

根据特征函数定义，其特征函数求解如下：

$$\begin{array}{rl}\phi (t)& ={\int }_{-\infty }^{\infty }{e}^{jtx}\frac{1}{\pi }\frac{\lambda }{(x-a{)}^2+{\lambda }^2}\mathrm{d}x\stackrel{u=\frac{x-a}{\lambda }}{=}{\int }_{-\infty }^{\infty }{e}^{jt(\lambda u+a)}\frac{1}{\pi }\frac{1}{u^2+1}\mathrm{d}u\\ & =\frac{e^{jta}}{\pi }{\int }_{-\infty }^{\infty }{e}^{j\lambda tu}\frac{1}{u^2+1}\mathrm{d}u\\ & =\{\begin{array}{ll}{\frac{e^{jta}}{\pi }2\pi j{\lim }_{u\to j}\left[(u-j)e^{j\lambda tu}\frac{1}{u^2+1}\right]|}_{u=j}=e^{jta-\lambda t}\lambda t>0& \\ {\frac{e^{jta}}{\pi }2\pi j{\lim }_{m\to j}\left[(m-j)e^{j(-\lambda t)m}\frac{1}{m^2+1}\right]|}_{m=j}=e^{jta+\lambda t}& \lambda t<0,m=-u\end{array}\\ & =e^{jta-|\lambda t|}\end{array}$$

3.8 指数分布

指数分布的概率密度函数为：

$$f(x)=\{\begin{array}{ll}\lambda e^{-\lambda x}& x>0\\ 0& x\le 0\end{array},\lambda >0$$

根据特征函数定义，其特征函数求解如下：

$$\phi (t)={\int }_0^{\infty }{e}^{jtx}\lambda e^{-\lambda x}\mathrm{d}x={\lambda \frac{e^{(jt-\lambda )x}}{(jt-\lambda )}|}_0^{\infty }=\frac{\lambda }{(\lambda -jt)}$$

3.9 伽马分布

伽马分布的概率密度函数为：

$$f(x)=\{\begin{array}{ll}\frac{{\lambda }^r}{\Gamma (r)}{x}^{r-1}{e}^{-\lambda x}& x>0\\ 0& x\le 0\end{array},\lambda >0;r>0$$

根据特征函数定义，其特征函数求解如下：

$$\begin{array}{rl}\phi (t)& ={\int }_0^{\infty }{e}^{jtx}\frac{{\lambda }^r}{\Gamma (r)}{x}^{r-1}{e}^{-\lambda x}\mathrm{d}x\\ & =\frac{{\lambda }^r}{\Gamma (r)}{\int }_0^{\infty }{x}^{r-1}{e}^{(jt-\lambda )x}\mathrm{d}x\stackrel{u=(\lambda -jt)x}{=}\frac{{\lambda }^r}{\Gamma (r)}{\int }_0^{\infty }\frac{1}{(\lambda -jt{)}^r}{u}^{r-1}{e}^{-u}\mathrm{d}u\\ & =\frac{{\lambda }^r}{\Gamma (r)}\frac{\Gamma (r)}{(\lambda -jt{)}^r}={\left(\frac{\lambda }{\lambda -jt}\right)}^r\end{array}$$

3.10 拉普拉斯分布

拉普拉斯分布的概率密度函数为：

$$f(x)=\frac{1}{2\lambda }{e}^{-\frac{|x-\mu |}{\lambda }},\lambda >0$$

根据特征函数定义，其特征函数求解如下：

$$\begin{array}{rl}\phi (t)& ={\int }_{-\infty }^{\infty }{e}^{jtx}\frac{1}{2\lambda }{e}^{-\frac{|x-\mu |}{\lambda }}\mathrm{d}x\\ & =\frac{1}{2\lambda }\left({\int }_{-\infty }^{\mu }{e}^{jtx}\frac{1}{2\lambda }{e}^{\frac{x-\mu }{\lambda }}\mathrm{d}x+{\int }_{\mu }^{\infty }{e}^{jtx}\frac{1}{2\lambda }{e}^{-\frac{x-\mu }{\lambda }}\mathrm{d}x\right)\\ & =\frac{1}{2\lambda }\left({e^{-\frac{\mu }{\lambda }}\frac{\lambda }{j\lambda t+1}{e}^{\frac{1+j\lambda t}{\lambda }x}|}_{-\infty }^{\mu }+{e^{\frac{\mu }{\lambda }}\frac{\lambda }{j\lambda t-1}{e}^{\frac{j\lambda t-1}{\lambda }x}|}_{\mu }^{\infty }\right)\\ & =\frac{e^{j\mu t}}{1+{\lambda }^2{t}^2}\end{array}$$

4 随机变量均值和方差求解

常见随机变量的均值方差如下：

$$\begin{array}{ccc}\text{ 分布 }& \text{ 均值 }& \text{ 方差 }\\ \text{ 两点分布 }& p& pq\\ \text{ 二项分布 }& np& npq\\ \text{ 泊松分布 }& \lambda & \lambda \\ \text{ 正态分布 }& \mu & {\sigma }^2\\ \text{ 几何分布 }& \frac{1}{p}& \frac{q}{p^2}\\ \text{ 均匀分布 }& \frac{a+b}{2}& \frac{(a-b{)}^2}{12}\\ \text{ 柯西分布 }& -& -\\ \text{ 指数分布 }& \frac{1}{\lambda }& \frac{1}{{\lambda }^2}\\ \text{ 伽马分布 }& \frac{r}{\lambda }& \frac{r}{{\lambda }^2}\\ \text{ 拉普拉斯分布 }& \mu & 2{\lambda }^2\end{array}$$

由性质(4)知：

$$E{X}^k=\frac{{\phi }^{(k)}(0)}{j^k}$$

因此，随机变量均值和方差可求解如下：

$$\begin{array}{rl}& EX=\frac{{\phi }^{\prime }(0)}{j}=-j{\phi }^{\prime }(0)\\ & DX=E{X}^2-(EX{)}^2=-{\phi }^{\prime \prime }(0)+{\left({\phi }^{\prime }(0)\right)}^2\end{array}$$

4.1 两点分布的均值和方差

两点分布的特征函数为：

$$\phi (t)=p{e}^{jt}+q$$

则：

$$\begin{array}{rl}& {\phi }^{\prime }(0)=jp\\ & {\phi }^{\prime \prime }(0)=-p\end{array}$$

因此，其均值和方差为：

$$\begin{array}{rl}& EX=-j{\phi }^{\prime }(0)=-j\cdot jp=p\\ & DX=-{\phi }^{\prime \prime }(0)+{\left({\phi }^{\prime }(0)\right)}^2=p+(jp{)}^2=pq\end{array}\text{\hspace{1em}(4.6)}$$

4.2 二项分布的均值和方差

二项分布的特征函数为：

$$\phi (t)={(p{e}^{jt}+q)}^n$$

则：

$$\begin{array}{rl}& {\phi }^{\prime }(0)=jnp\\ & {\phi }^{\prime \prime }(0)=-n(n-1)p^2-np\end{array}$$

因此，其均值和方差为：

$$\begin{array}{rl}& EX=-j{\phi }^{\prime }(0)=-j\cdot jnp=np\\ & DX=-{\phi }^{\prime \prime }(0)+{\left({\phi }^{\prime }(0)\right)}^2=n(n-1)p^2+np+(jnp{)}^2=npq\end{array}$$

4.3 泊松分布的均值和方差

泊松分布的特征函数为：

$$\phi (t)=e^{\lambda \left(e^{jt}-1\right)}$$

则：

$$\begin{array}{rl}& {\phi }^{\prime }(0)=j\lambda \\ & {\phi }^{\prime \prime }(0)=-\lambda (\lambda +1)\end{array}$$

因此，其均值和方差为：

$$\begin{array}{rl}& EX=-j{\phi }^{\prime }(0)=-j\cdot j\lambda =\lambda \\ & DX=-{\phi }^{\prime \prime }(0)+{\left({\phi }^{\prime }(0)\right)}^2=\lambda (\lambda +1)+(j\lambda {)}^2=\lambda \end{array}$$

4.4 正态分布的均值和方差

正态分布的特征函数为：

$$\phi (t)=e^{j\mu t-\frac{{\sigma }^2{t}^2}{2}}$$

则：

$$\begin{array}{rl}& {\phi }^{\prime }(0)=j\mu \\ & {\phi }^{\prime \prime }(0)=-\left({\sigma }^2+{\mu }^2\right)\end{array}$$

因此，其均值和方差为：

$$\begin{array}{rl}& EX=-j{\phi }^{\prime }(0)=-j\cdot j\mu =\mu \\ & DX=-{\phi }^{\prime \prime }(0)+{\left({\phi }^{\prime }(0)\right)}^2=\left({\sigma }^2+{\mu }^2\right)+(j\mu {)}^2={\sigma }^2\end{array}$$

4.5 几何分布的均值和方差

几何分布的特征函数为：

$$\phi (t)=\frac{p{e}^{jt}}{1-q{e}^{jt}}$$

则：

$$\begin{array}{rl}& {\phi }^{\prime }(0)=j\frac{1}{p}\\ & {\phi }^{\prime \prime }(0)=-\frac{p+2q}{p^2}\end{array}$$

因此，其均值和方差为：

$$\begin{array}{rl}& EX=-j{\phi }^{\prime }(0)=-j\cdot j\frac{1}{p}=\frac{1}{p}\\ & DX=-{\phi }^{\prime \prime }(0)+{\left({\phi }^{\prime }(0)\right)}^2=\frac{p+2q}{p^2}+{\left(j\frac{1}{p}\right)}^2=\frac{q}{p^2}\end{array}$$

4.6 均匀分布的均值和方差

均匀分布的特征函数为：

$$\phi (t)=\frac{e^{jtb}-e^{jta}}{jt(b-a)}$$

则：

$$\begin{array}{rl}{\phi }^{\prime }(0)& =j\frac{a+b}{2}\\ {\phi }^{\prime \prime }(0)& =-\frac{a^2+ab+b^2}{3}\end{array}$$

因此，其均值和方差为：

$$\begin{array}{rl}& EX=-j{\phi }^{\prime }(0)=-j\cdot j\frac{a+b}{2}=\frac{a+b}{2}\\ & DX=-{\phi }^{\prime \prime }(0)+{\left({\phi }^{\prime }(0)\right)}^2=\frac{a^2+ab+b^2}{3}+{\left(j\frac{a+b}{2}\right)}^2=\frac{(a-b{)}^2}{12}\end{array}$$

4.7 柯西分布的均值和方差

柯西分布的特征函数为：

$$\begin{array}{rl}\phi (t)& =e^{jta-|\lambda t|}\end{array}$$

则 ${\phi }^{\prime }(0)$ 和 ${\phi }^{\prime \prime }(0)$ 均不存在，因此，其均值和方差均不存在。

4.8 指数分布的均值和方差

指数分布的特征函数为：

$$\phi (t)=\frac{\lambda }{(\lambda -jt)}$$

则：

$$\begin{array}{rl}{\phi }^{\prime }(0)& =j\frac{1}{\lambda }\\ {\phi }^{\prime \prime }(0)& =-\frac{2}{{\lambda }^2}\end{array}$$

因此，其均值和方差为：

$$\begin{array}{rl}& EX=-j{\phi }^{\prime }(0)=-j\cdot j\frac{1}{\lambda }=\frac{1}{\lambda }\\ & DX=-{\phi }^{\prime \prime }(0)+{\left({\phi }^{\prime }(0)\right)}^2=\frac{2}{{\lambda }^2}+{\left(j\frac{1}{\lambda }\right)}^2=\frac{1}{{\lambda }^2}\end{array}$$

4.9 伽马分布的均值和方差

伽马分布的特征函数为：

$$\begin{array}{rl}\phi (t)& ={\left(\frac{\lambda }{\lambda -jt}\right)}^r\end{array}$$

则：

$$\begin{array}{rl}& {\phi }^{\prime }(0)=j\frac{r}{\lambda }\\ & {\phi }^{\prime \prime }(0)=-\frac{r^2+r}{{\lambda }^2}\end{array}$$

因此，其均值和方差为：

$$\begin{array}{rl}& EX=-j{\phi }^{\prime }(0)=-j\cdot j\frac{r}{\lambda }=\frac{r}{\lambda }\\ & DX=-{\phi }^{\prime \prime }(0)+{\left({\phi }^{\prime }(0)\right)}^2=\frac{r^2+r}{{\lambda }^2}+{\left(j\frac{r}{\lambda }\right)}^2=\frac{r}{{\lambda }^2}\end{array}$$

4.10 拉普拉斯分布的均值和方差

拉普拉斯分布的特征函数为：

$$\begin{array}{rl}\phi (t)& =\frac{e^{j\mu t}}{1+{\lambda }^2{t}^2}\end{array}$$

则：

$$\begin{array}{rl}& {\phi }^{\prime }(0)=j\mu \\ & {\phi }^{\prime \prime }(0)=-\left({\mu }^2+2{\lambda }^2\right)\end{array}$$

因此，其均值和方差为：

$$\begin{array}{rl}& EX=-j{\phi }^{\prime }(0)=-j\cdot j\mu =\mu \\ & DX=-{\phi }^{\prime \prime }(0)+{\left({\phi }^{\prime }(0)\right)}^2={\mu }^2+2{\lambda }^2+(j\mu {)}^2=2{\lambda }^2\end{array}$$