多维高斯分布

最新推荐文章于 2024-05-06 17:13:33 发布

Baobin Zhang

最新推荐文章于 2024-05-06 17:13:33 发布

阅读量5.7k

点赞数 4

分类专栏：数学概念理论统计学理论

本文链接：https://blog.csdn.net/zbbmm/article/details/88246594

版权

我们常见的一维高斯分布公式为：

$\mathit{N(x\vert \mu, \sigma^2)} = \frac{1}{\sqrt{2\pi\sigma^2}}exp[-\frac{1}{2\sigma^2}(x-\mu)^2]$

拓展到高维就变成：

$\mathit{N(\overline{x}\vert \overline{\mu}, \Sigma)} = \frac{1}{(2\pi)^{\frac{D}{2}}}\frac{1}{|\Sigma|^{\frac{1}{2}}}exp[-\frac{1}{2}(\overline{x}-\overline{\mu})^{\mathit{T}}\Sigma^{-1}(\overline{x}-\overline{\mu})]$

其中， $\overline{x}$ 表示维度为 $\mathit{D}$ 的向量， $\overline{\mu}$ 则是这些向量的平均值， $\Sigma$ 表示所有向量 $\overline{x}$ 的协方差矩阵。

本文简单探讨一下，上面这个高维的公式是怎么来的。

二维的情况

为了简单起见，本文假设所有变量都是相互独立的。即对于概率分布函数 $f(x_0,\dots, x_n)$ 而言，有 $f(x_0, x_1, \dots, x_n) = f(x_0)f(x_1)f(x_n)$ 成立。

现在，我们用一个二维的例子推出上面的公式。

假设有很多变量 $\overline{x} = \begin{bmatrix} x_1\\x_2 \end{bmatrix}\quad$ , 他们的均值为 $\overline{\mu} = \begin{bmatrix} \mu_1\\\mu_2 \end{bmatrix}\quad$ , 方差为 $\overline{\sigma} = \begin{bmatrix} \sigma_1\\\sigma_2 \end{bmatrix}\quad$ 。