机器学习的任务从本质上讲是从输入到输出的一个映射,该映射称之为模型,模型我们可以用决策函数 Y = f ( X ) Y=f(X) Y=f(X)【或 P ( Y ∣ X ) P(Y|X) P(Y∣X)】来表示。
在监督学习这些模型的过程中,依据得到决策函数( P ( Y ∣ X ) P(Y|X) P(Y∣X))方式的不同,可以将模型分为生成模型和判别模型:
生成模型
生成模型是通过贝叶斯公式 P ( Y ∣ X ) = P ( X , Y ) P ( X ) P(Y|X)=\frac{P(X,Y)}{P(X)} P(Y∣X)=P(X)P(X,Y)的方式来得到决策函数 P ( Y ∣ X ) P(Y|X) P(Y∣X)的
典型的生成模型有:
朴素贝叶斯,隐马尔可夫
判别模型
判别模型是由数据直接学习决策函数 P ( Y ∣ X ) P(Y|X) P(Y∣X)的【因此,博主认为不通过生成方式的都可以认为是判别模型】
典型的判别模型有:
k近邻,感知机,决策树,逻辑回归,最大熵模型,支持向量机,提升方法和条件随机场
才疏学浅,难免有错误和不当之处,欢迎留言交流批评指正!