isotropic Gaussian distribution
各向同性的高斯分布(球形高斯分布)指的是各个方向方差都一样的多维高斯分布,协方差为正实数与 identity matrix 相乘。
因为高斯的 circular symmetry,只需要让每个轴上的长度一样就能得到各向同性,也就是说分布密度值仅跟点到均值距离相关,而不和方向有关。
各向同性的高斯每个维度之间也是互相独立的,因此密度方程可以写成几个 1 维度高斯乘积形式。要注意的是,几个高斯分布乘在一起得到各向同性,但几个 Laplace 分布相乘就得不到各向同性!
此类高斯分布的参数个数随维度成线性增加,只有均值在增加,而方差是一个标量,因此对计算和存储量的要求不大,因此非常讨人喜欢~
an example
I’d just like to add a bit of visuals to the other answers.
When the variables are independent, i.e. the distrubtion is isotropic, it means that the distribution is aligned with the axis.
Σ = ( 1 ⋱ 1