From: Machine Learning: A Probabilistic Perspective
1. 生成模型(GM):本质上是估计p(x,y)这个联合概率
或者说,先通过p(y=c)选择第c类,然后用第c类的类条件概率p(x|y=c)来生成数据。
可以通过这种方式抽样出1000个数据点,也就是根据p(x,y)来生成样本数据(可参考混合高斯分布)。
当然也可以通过(2.13)对新的输入样本进行判别
2. 判别模型(DM):直接通过后验概率p(y=c|x) 来判断
如果 p(y=c1|x) > p(y=c2|x),则认为新的输入样本x属于c1类
更详细的比较可以参考:Discriminative Modeling vs Generative Modeling