判别模型和生成模型

监督学习方法分为生成方法和判别方法，学习到的模型分为生成模型和判别模型。

例子

对于简单的二分类问题

• 判别模型：学到一个好的分界线，直接把两类区分开
• 生成模型：学到两类各自的分布，当新的数据来的时候，看看属于哪个分布从而区分数据

判别模型与生成模型的对比

特点	判别模型	生成模型
学习内容	$P(Y|X)$	$P(X,Y)=P(X|Y)P(Y)$
特点	反映异类差异；学习准确率更高；不需要数据分布的假设	反映同类的相似度；反映数据本身的特性；收敛更快，适合数据较小的情况
典型方法	逻辑回归、SVM	朴素贝叶斯、马尔科夫模型、高斯混合模型