GMM(高斯混合模型)
问题引入:(图中的方差实为标准差)
随机挑选10000位志愿者,测量他们的身高;若样本中存在男性和女性,身高分别服从和,试估计
假设随机变量X是由K个高斯分布混合而成,取各个高斯分布的概率为,第i个高斯分布的均值为,标准差为。若观测到随机变量X的一系列样本x1,x2,x2......xn,试估计参数
此时,对数似然函数为:(是不能直接求导的)
下面分为两步:开始的时候主观设定的参数值,然后进行优化
最后得到的是局部最优值,与开始时候主观设定的参数值有关。
问题引入:(图中的方差实为标准差)
随机挑选10000位志愿者,测量他们的身高;若样本中存在男性和女性,身高分别服从和,试估计
假设随机变量X是由K个高斯分布混合而成,取各个高斯分布的概率为,第i个高斯分布的均值为,标准差为。若观测到随机变量X的一系列样本x1,x2,x2......xn,试估计参数
此时,对数似然函数为:(是不能直接求导的)
下面分为两步:开始的时候主观设定的参数值,然后进行优化
最后得到的是局部最优值,与开始时候主观设定的参数值有关。