［每日问答］生成方法和判别方法有什么区别？

生成方法：由数据学习联合概率分布P(X,Y)，然后求出条件概率分布P(Y|X)作为预测的模型即生成模型。典型的生成模型有朴素贝叶斯和隐马尔可夫模型。

判别方法：由数据直接学习决策函数f(X)或者条件概率分布P(Y|X)作为预测模型即判别模型。判别方法关心的事对给定的输入X应该预测什么样的输出Y。典型的判别模型包括：kNN，感知机，决策树，LR，最大熵模型，支持向量机，提升方法和条件随机场等。

在监督学习中，生成方法和判别方法各有优缺点：生成方法可以还原联合概率分布，判别方法不能；生成方法收敛速度快；生成方法可以学习存在隐变量的模型，判别方法就不能用；判别方法学习的准确率更高且可以简化学习问题。

参考文献

1.李航老师的统计学习方法