GMM算法

高斯混合模型为多个高斯模型的线性叠加,如果给定变量x为标量,则\mu_{k}\Sigma_{k}均为标量,向量对应向量均值和矩阵协方差

p(x) = \sum_{k=1}^{K}\alpha_{k}\mathcal{N}\left(x|\mathbf{\mu}_{k},\Sigma_{k} \right )

给定观测数据X=\{x_1,x_2,\cdots,x_N\},求高斯混合模型的超参数\theta=\{\alpha_1,\cdots,\alpha_K,\mathbf{\mu}_{1},\cdots,\mathbf{\mu}_{K},\mathbf{\Sigma}_{1},\cdots,\mathbf{\Sigma}_{K}\}

\hat{\theta} = \arg \max_{\theta}\log p(X) \\ \quad =\arg \max_{\theta}\log \prod_{i=1}^{N}p(x_{i})\\ \quad =\arg \max_{\theta}\sum_{i=1}^{N}\log p(x_{i})\\ \quad =\arg \max_{\theta}\sum_{i=1}^{N}\log \sum_{k=1}^{K}\alpha_{k}\mathcal{N}(x_i|\mu_k,\Sigma_k)\\

这个最大似然对数法求不了,因为难以求解析解,要用EM算法,期望值最大算法。

GMM类似K均值,是一种聚类算法,用于分类。

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值