判别式模型和生成式模型

判别式模型 (Discriminative Model)：

• 直接对条件概率p(y|x)进行建模，常见判别模型有：线性回归、决策树、支持向量机SVM、k近邻、神经网络等；

生成式模型 (Generative Model)：

• 对联合分布概率p(x,y)进行建模，常见生成式模型有：隐马尔可夫模型HMM、朴素贝叶斯模型、高斯混合模型GMM、LDA等；

判别式模型与生成式模型的对比：

1. 生成式模型更普适；判别式模型更直接，目标性更强
2. 生成式模型关注数据是如何产生的，寻找的是数据分布模型；判别式模型关注的数据的差异性，寻找的是分类面
3. 由生成式模型可以产生判别式模型，但是由判别式模式没法形成生成式模型