机器学习-周志华-个人练习13.2

13.2 试基于朴素贝叶斯模型推导生成式半监督学习算法

回顾一下，朴素贝叶斯的假设是$\mathbf x_{i}=(x_{i1},\ldots,x_{in})$中的所有$x_{ij}$相互独立，结合贝叶斯公式可知，我们的目标是找到一个$c_k \in \mathcal C$，最大化下式：

$$p(c_k \mid \mathbf x_i)={p(c_k)p(\mathbf x_i \mid c_k)}\tag{1}$$
此时的 $c_k$即为该样本 $\mathbf x_i$的分类，即：
$$h(\mathbf x_i)=\mathrm {arg}\max_{c_k} {p(c_k)p(\mathbf x_i \mid c_k)}=\mathrm {arg}\max_{c_k}p(c_k)\cdot \prod_{j=1}^{N}p(x_{ij}\mid c_k)\tag{2}$$
假定各个类别与一个混合模型中的独立成分一一对应，混合模型的参数为 $\Theta$，则上式可以写为：

h