- 生成模型:生成方法由数据学习联合概率分布,然后求出条件概率分布作为预测的模型,即生成模型。
- 判别模型:由数据直接学习决策函数或者条件概率分布作为预测的模型,即判别模型。
- 生成模型与判别模型的比较:
- 生成模型:
2生成方法的学习收敛速度更快
3当存在隐变量时,仍然可以使用生成方法学习,而判别方法则不能。
- 判别模型:
1判别方法直接学习的是条件概率分布或决策函数,直接面对预测,往往学习的准确率更高
2由于直接学习条件概率分布或者决策函数,可以对数据进行抽象、定义特征并使用特征,因此可以简化学习问题。
- 常见的生成模型有:
朴素贝叶斯、隐马尔可夫模型
- 常见的判别模型有:
KNN、LR、SVM、RF、AdaBoost