多元高斯分布/多元正态分布

这些知识，动不动就忘。为了不白选了一门数学课，还是把他记下来。
f ( x ) = 1 ( 2 π ) n / 2 ∣ C ∣ 1 2 e x p { − 1 2 ( x − μ ) T C − 1 ( x − μ ) } f(x)= \frac{1}{ (2\pi)^{n/2} {|C|}^{\frac{1}{2}}}exp\{ -\frac{1}{2} (x-\mu)^T C^{-1} (x-\mu) \} f(x)=(2π)n/2∣C∣21​1​exp{−21​(x−μ)TC−1(x−μ)}，其中 $C$为协方差矩阵，n为数据维度。

对于二元正态分布:
$$C=\left[\begin{array}{cc}{\sigma }_1^2& \rho {\sigma }_1{\sigma }_2\\ \rho {\sigma }_1{\sigma }_2& {\sigma }_2^2\end{array}\right]$$。其中${\sigma }_i$为第$i$维数据的方差,$\rho$为相关系数，所以显然$\rho {\sigma }_1{\sigma }_2$为协方差。

二元正态分布:
1 2 π 1 − ρ 2 σ 1 σ 2 e x p { − ( y − μ 2 ) 2 2 σ 2 2 } e x p { − 1 2 ( 1 − ρ 2 ) × ( x − μ 1 σ 1 − ρ y − μ 2 σ 2 ) 2 } \frac{1}{2\pi\sqrt{1-\rho^2}\sigma_1\sigma_2} exp\{-\frac{(y-\mu_2)^2}{2\sigma_2^2}\} exp\{ -\frac{1}{2(1-\rho^2)} \times (\frac{x-\mu_1}{\sigma_1}-\rho\frac{y-\mu_2}{\sigma_2})^2\} 2π1−ρ2 ​σ1​σ2​1​exp{−2σ22​(y−μ2​)2​}exp{−2(1−ρ2)1​×(σ1​x−μ1​​−ρσ2​y−μ2​​)2}

对于多元正态分布，如果各维相互独立，那么$C$中主对角之外的元素为0，这是因为相关系数都为0。

接下来附上3页草稿，验证二元正态分布的形式和多元正态分布的形式吻合:

如果n维正态分布的每一维相互独立，密度函数就是n个1维正态分布的乘积。