一、证明高斯分布积分为1
图1 .一元高斯分布的图像,给出了均值
μ
\mu
μ和标准差
σ
\sigma
σ
证明:首先我们考虑下面积分
这个积分可以这样计算:⾸先将它的平⽅写成下⾯的形式(二重积分)
然后使⽤笛卡尔坐标(x, y)到极坐标(r, θ)的坐标变换,即:
雅可比行列式如下:
则二重积分变为:
其中
z
=
−
r
2
2
σ
2
z=-\frac{r^{2}}{2\sigma ^{2}}
z=−2σ2r2,因此:
最后,令
y
=
x
−
μ
y=x-\mu
y=x−μ ,高斯分布概率密度函数的积分为:
得证!
二、假设 u, v是两个相同维度的列向量,请证明下面这个等式: u T v = t r ( v u T ) u^{T}v=tr(vu^{T}) uTv=tr(vuT)
证明:
所以
三、对于高斯分布的随机变量, x ∼ N ( μ , Σ ) x\sim \mathbb{N}(\mu ,\Sigma ) x∼N(μ,Σ),请证明下面等式:
证明:期望(一阶矩)的公式推导如下
由题意知x服从高斯分布,所以高斯概率密度函数p(x)=
N
(
x
∣
μ
,
σ
2
)
N(x\mid \mu ,\sigma ^{2})
N(x∣μ,σ2)
则有,
将
x
−
μ
x-\mu
x−μ替换掉,为方便描述下面我用x替换,注意这里替换的 x和前面
x
−
μ
x-\mu
x−μ中的x不是同一个变量,有
上式中的
为奇函数,即f(-x)=f(x),函数关于原点对称,所以该项积分为0,所以:
公式得证!
四、对于高斯分布的随机变量, x ∼ N ( μ , Σ ) x\sim \mathbb{N}(\mu ,\Sigma ) x∼N(μ,Σ),请证明下面等式:
证明:高斯分布方差的公式推导,即证明
由题意知x服从高斯分布,所以高斯概率密度函数p(x)=
N
(
x
∣
μ
,
σ
2
)
N(x\mid \mu ,\sigma ^{2})
N(x∣μ,σ2)
按照证明期望的讨论同样证明方差,过程如下:
得到:
公式得证!
五、对于K 个相互独⽴的⾼斯概率密度, x ∼ N ( μ K , Σ K ) x\sim N(\mu_{K} ,\Sigma_{K} ) x∼N(μK,ΣK),请证明它们的归⼀化积仍然是高斯分布:
其中:
且
η
\eta
η是归一化因子。
待证明。。。