为什么高斯分布概率密度函数的积分等于1

一维高斯分布的概率密度如下：

N ( x ∣ μ , σ 2 ) = 1 ( 2 π σ 2 ) 1 / 2 e x p { − 1 2 σ 2 ( x − μ ) 2 } （ 1 ） N(x \mid\mu ,\sigma^2)=\frac{1}{(2\pi\sigma^2)^{1/2}}exp\{-\frac{1}{2\sigma^2}(x-\mu)^2\} （1） N(x∣μ,σ2)=(2πσ2)1/21​exp{−2σ21​(x−μ)2}（1）

现在要证明为什么式（1）的积分为1，这也是PRML的exercise 1.7：

$${\int }_{-\infty }^{\infty }N(x\mid \mu ,{\sigma }^2)dx=1$$

证明比较巧妙，采用的是化为二重积分的形式并把笛卡尔坐标转换成极坐标。

首先把 $I={\int }_{-\infty }^{\infty }exp(-\frac{1}{2{\sigma }^2}{x}^2)dx$ 化为二重积分的形式：

$$I^2={\int }_{-\infty }^{\infty }{\int }_{-\infty }^{\infty }exp(-\frac{1}{2{\sigma }^2}{x}^2-\frac{1}{2{\sigma }^2}{y}^2)dxdy$$

把笛卡尔坐标转换成极坐标：

$$x=rcos\theta ,y=rsin\theta$$

雅可比行列式如下，关于雅可比行列式参考我的另一篇文章：

$$\frac{\partial (x,y)}{\partial (r,\theta )}=\left|\begin{array}{cc}\frac{\partial x}{\partial r}& \frac{\partial x}{\partial \theta }\\ \frac{\partial y}{\partial r}& \frac{\partial y}{\partial \theta }\end{array}\right|=\left|\begin{array}{cc}cos\theta & -rsin\theta \\ sin\theta & rcos\theta \end{array}\right|=r$$

因此二重积分变为：

$$\begin{array}{rl}{I}^2& ={\int }_0^{+\infty }{\int }_0^{2\pi }exp(-\frac{r^{2}co{s}^2\theta +r^{2}si{n}^2\theta }{2{\sigma }^2})rdrd\theta \\ & =2\pi {\int }_0^{+\infty }exp(-\frac{r^2}{2{\sigma }^2})\frac{1}{2}d(r^2)\\ & =-2\pi {\sigma }^2{\int }_0^{+\infty }exp(-\frac{r^2}{2{\sigma }^2})d(-\frac{r^2}{2{\sigma }^2})\\ & =-2\pi {\sigma }^2[exp(z){]}_0^{-\infty }\\ & =2\pi {\sigma }^2\end{array}$$

其中 $z=-\frac{r^2}{2{\sigma }^2}$ ，因此：

$$I=(2\pi {\sigma }^2{)}^{1/2}$$

最后，令 $y=x-\mu$ ，高斯分布概率密度函数的积分为：

∫ − ∞ ∞ N ( x ∣ μ , σ 2 ) d x = ∫ − ∞ ∞ 1 ( 2 π σ 2 ) 1 / 2 e x p { − 1 2 σ 2 ( x − μ ) 2 } d x = ∫ − ∞ ∞ 1 ( 2 π σ 2 ) 1 / 2 e x p { − y 2 2 σ 2 } d y = ( 2 π σ 2 ) − 1 / 2 ⋅ I = 1 \begin{aligned}\int^{\infty}_{-\infty}N(x \mid\mu,\sigma^2)dx &= \int^{\infty}_{-\infty}\frac{1}{(2\pi\sigma^2)^{1/2}}exp\{-\frac{1}{2\sigma^2}(x-\mu)^2\}dx \\ &= \int^{\infty}_{-\infty}\frac{1}{(2\pi\sigma^2)^{1/2}}exp\{-\frac{y^2}{2\sigma^2}\}dy \\ &= (2\pi\sigma^2)^{-1/2}\cdot I\\ &=1 \end{aligned} ∫−∞∞​N(x∣μ,σ2)dx​=∫−∞∞​(2πσ2)1/21​exp{−2σ21​(x−μ)2}dx=∫−∞∞​(2πσ2)1/21​exp{−2σ2y2​}dy=(2πσ2)−1/2⋅I=1​

参考资料：
[1] PRML

转载自：
博主：清雅的机器学习笔记
博文地址：https://zhuanlan.zhihu.com/p/40225646
来源：知乎