符号声明:
(1) N ( x ∣ μ , Σ ) \mathcal{N}(\boldsymbol{x}|\boldsymbol{\mu},\boldsymbol{\Sigma}) N(x∣μ,Σ)表示随机矢量 x \boldsymbol{x} x是服从均值为 μ \boldsymbol{\mu} μ、协方差矩阵为 Σ \boldsymbol{\Sigma} Σ的高斯PDF的高斯矢量。
(2)粗体字表示矢量或者矩阵,如 x \boldsymbol{x} x表示 N N N维矢量。
(3) N ( μ , Σ ) \mathcal{N}(\boldsymbol{\boldsymbol{\mu}},\boldsymbol{\Sigma}) N(μ,Σ)表示均值为 μ \boldsymbol{\mu} μ、协方差矩阵为 Σ \boldsymbol{\Sigma} Σ的多元高斯分布。
(4)’ ∝ \propto ∝’,表示正比于,如 x ∝ y x\propto y x∝y表示 x = a y x=ay x=ay, a a a为常数。
回顾:矢量高斯分布
假设 x ∼ N ( μ , Σ ) \boldsymbol{x}\sim \mathcal{N}(\boldsymbol{\mu},\boldsymbol{\Sigma}) x∼N(μ,Σ),则 x \boldsymbol{x} x的概率密度表示如下
p X ( x ) = 1 ( 2 π ) N / 2 det ( Σ ) exp [ − 1 2 ( x − μ ) T Σ − 1 ( x − μ ) ] p_{\boldsymbol{X}}(\boldsymbol{x})=\frac{1}{(2\pi)^{N/2}\sqrt{\det(\boldsymbol{\Sigma})}}\exp\left[{-\frac{1}{2}(\boldsymbol{x}-\boldsymbol{\mu})^T\boldsymbol{\Sigma}^{-1}(\boldsymbol{x}-\boldsymbol{\mu})}\right] pX(x)=(2π)N/2det(Σ)1exp[−