机器学习总结（一）：生成模型与判别模型的区别

生成模型：由数据学习联合概率分布P(X,Y),然后求出条件概率分布P(Y|X)作为预测的模型，即生成模型：P(Y|X)=P(X,Y)/P(X),表示了给定输入X产生输出Y的生成关系。包括：朴素贝叶斯法、隐马尔科夫模型。特点：收敛速度更快。

判别模型：由数据直接学习决策函数f(X)或者条件概率分布P(Y|X)作为预测的模型，即判别模型，包括：逻辑斯谛回归、k近邻、感知器、决策树、SVM等。特点：准确率高。直接学习，对数据进行各种程度的抽象、定义特征并使用特征。