生成式模型(Generative Model)与判别式模型(Discrimitive Model)是分类器常遇到的概念,它们的区别在于:
对于输入x,类别标签y:
生成式模型估计它们的联合概率分布P(x,y)
判别式模型估计条件概率分布P(y|x)
生成式模型可以根据贝叶斯公式得到判别式模型,但反过来不行。
Andrew Ng在NIPS2001年有一篇专门比较判别模型和生成式模型的文章:
On Discrimitive vs. Generative classifiers: A comparision of logistic regression and naive Bayes
(http://robotics.stanford.edu/~ang/papers/nips01-discriminativegenerative.pdf)
判别式模型常见的主要有:
逻辑回归 Logistic Regression
支持向量机 SVM
神经网络 NN
传统神经网络 Traditional Neural Networks
邻近取样 Nearest Neighbor
条件随机场 CRF
线性判别分析 Linear Discriminant Analysis
提升算法 Boosting
线性回归 Linear Regression
逻辑斯蒂回归 Logistic Regression
高斯过程 Gaussian Process
分类回归树 Classification and Regression Tree (CART)
区分度训练
生成式模型常见的主要有:
高斯 Gaussians
朴素贝叶斯 Naive Bayes
混合多项式 Mixtures of Multinomials
混合高斯模型 Mixtures of Gaussians
多专家模型 Mixtures of Experts
隐马尔科夫模型 HMM
S型信念网络 Sigmoidal Belief Networks
贝叶斯网络 Bayesian Networks
马尔科夫随机场 Markov Random Fields
潜在狄利克雷分配 Latent Dirichlet Allocation(LDA)
判别式分析
K近邻 KNN
深度信念网络 DBN
链接:https://www.nowcoder.com/questionTerminal/12a74c2872d74842819d94ccda7368bc?toCommentId=184277
来源:牛客网