判别式和生成式模型异同点

最新推荐文章于 2024-02-02 18:15:00 发布
最新推荐文章于 2024-02-02 18:15:00 发布
阅读量229 收藏 2
点赞数
分类专栏： 机器学习 文章标签： 大数据
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/qq_43722162/article/details/110404094
版权
本文探讨了生成式和判别式模型的异同。生成式模型关注数据如何产生，如HMM、朴素贝叶斯、GMM，寻求数据分布；而判别式模型关注数据差异，如线性回归、SVM、神经网络，寻找分类边界。生成式模型能生成判别式模型，反之则不能。两者均为监督学习中用于预测的模型。
摘要由CSDN通过智能技术生成

生成式

  • 就是生成 (数据的分布) 的模型
  • 生成式求的是 (联合概率 即 P(X,Y) )
  • 直接对 联合分布概率< P(X,Y) > 进行建模
  • 常见生成式模型：隐马尔可夫模型HMM、朴素贝叶斯模型、高斯混合模型GMM等
  • 关注数据是如何产生的，寻找的是数据分布模型

判别式

  • 判别 (数据输出量) 的模型
  • 判别式求的是 (后验概率 即 P(Y|X) )
  • 直接对 条件概率< P(Y|X) > 进行建模
  • 常见判别模型：线性回归、决策树、支持向量机SVM、k近邻、神经网络等
  • 关注的数据的差异性，寻找的是分类面

异点

  • 由生成式模型可以产生判别式模型
  • <生成式 —> 判别式>
  • 但是由判别式模式没法形成生成式模型
  • <判别式 —<> 生成式>

同点

  • 都是进行预测的模型
  • 都是通过概率建立模型
  • 都属于监督学习的模型

举个例子:

  • 假如你的任务是识别一个语音属于哪种语言
  • 对面一个人走过来，和你说了一句话
  • 你需要识别出她说的到底是汉语、英语还是法语等。那么你可以有两种方法达到这个目的：
最低0.47元/天 解锁文章
姜泽毓
关注
专栏目录
生成式模型和判别式模型的区别
zhangt766的博客
06-16 8773
机器学习可以分为两大类：生成式模型（Generative Model）、判别式模型（Discriminative Model）。 现在有一堆球，颜色信息已知为绿色和黄色两种，有且仅有这两种颜色，这里，球的颜色为y（目标变量），坐标轴上位置为特征X。我们想要知道，如果在坐标轴的某一位置x新放入一个球，这个球会是什么颜色的？ 1.生成式模型的思想： 生成式模型使用的是联合概率P(X,Y)，若已知x（球的坐标位置信息），通过计算出P(X,Y)我们就可以知道球的颜色。 P(X,Y) = P(Y)*P(X|Y)，其中
算法杂货铺——分类算法之决策树(Decision tree)
weixin_34009794的博客
09-19 658
3.1、摘要       在前面两篇文章中，分别介绍和讨论了朴素贝叶斯分类与贝叶斯网络两种分类算法。这两种算法都以贝叶斯定理为基础，可以对分类及决策问题进行概率推断。在这一篇文章中，将讨论另一种被广泛使用的分类算法——决策树（decision tree）。相比贝叶斯算法，决策树的优势在于构造过程不需要任何领域知识或参数设置，因此在实际应用中，对于探测式的知识发现，决策树更加适用。 3.2、决策...
生成模型与判别模型的异同
AI_盲的博客
07-27 538
生成方法的特点： 生成方法学习联合概率密度分布P(X,Y)，所以就可以从统计的角度表示数据的分布情况，能够反映同类数据本身的相似度。但它不关心到底划分各类的那个分类边界在哪。生成方法可以还原出联合概率分布P(Y|X)，而判别方法不能。生成方法的学习收敛速度更快，即当样本容量增加的时候，学到的模型可以更快的收敛于真实模型，当存在隐变量时，仍可以用生成方法学习。此时判别方法就不能用。 判别方法的特
生成式模型和判别式模型
shuke1991的博客
06-16 2134
对于输入x，类别标签y： 生成式模型：估计它们的联合概率分布P(x,y)，生成数据的分布。 特点：寻找不同类别之间的最优分类面，反映的是异类数据之间的差异。 判别式模型：判别式模型估计条件概率分布P(y|x)，判别数据的输出量。 特点：对后验概率建模，从统计的角度表示数据的分布情况，能够反映同类数据本身的相似度。 二者联系：由产生式模型可以得到判别式模型，但由判别式模型得不到产生式模
生成式模型VS判别式模型
weixin_43206928的博客
07-11 193
转载链接 https://www.jianshu.com/p/a37aed9962bf 生成式模型 VS 判别式模型前言 在学习机器学习中，有两种经典模型，生成式模型和判别式模型，本文尽量用通俗易懂的语言来说明这两者区别。 以狗分类问题为例，简化之以二分类说明，狗分 A 种类，B 种类。 判别式模型（discriminative model） 现在有一只狗，然后呢，我们要求这是哪种类狗（A vs B）？ 判别式模型是求解一个模型，如 y = w * x + b ，y > 0 为 A，y <
机器学习：生成模型和判别模型的区别
qq_51278881的博客
10-02 475
一、名词解释 生成方法由数据学习联合概率风波P(X,Y)，然后求出条件概率分布P(Y|X)为预测的模型，即生成模型： P ( Y ∣ X ) = P ( X , Y ) P ( X ) P(Y|X)=\frac{P(X,Y)}{P(X)} P(Y∣X)= P(X) P(X,Y) ​ 这样的方法之所以称为生成方法，是因为模型表示了给定输入X产生输出Y的生成关系。典型的生成模型由朴素贝叶斯法和隐马尔可夫模型。 判别方法由数据直接学习决策函数f(X)或者条件概率分布P(Y|X)作为预测模型，即判别模型。判别方法关
机器学习笔记之线性分类——高斯判别分析(一)模型思路构建
静静的学习就好
08-31 808
上一节介绍了线性分类中概率判别模型的经典方法——逻辑回归(Logistic Regression)，本节将介绍线性分类中概率生成模型的经典方法——高斯判别分析(Gaussian Discriminant Aanlysis)。
语音识别 HMM和端到端Seq-to-Seq模型的异同
dhj_tsukuba的博客
03-20 1022
提示：文章写完后，目录可以自动生成，如何生成可参考右边的帮助文档 文章目录前言1 Hidden Markov Model (HMM)1-1 传统HMM1-2 HMM+Deep Learning1-2-1 Tendam1-2-2 DNN-HMM混合模型2 Seq-to-Seq模型 前言 本文主要是李宏毅老师语音识别公开课4的笔记，全部课程可以参考这里 近几年语音领域的顶会发表了很多关于端到端Seq-to-Seq模型的研究，并且根据实验数据，在大规模语音数据集的支持下，他们的WER或者是CER都已经超过了传
机器学习中的判别式模型和生成式模型
weixin_40252835的博客
06-16 1208
首发于人工智能写文章机器学习中的判别式模型和生成式模型Microstrong微信公众号：Microstrong，人工智能算法工程师已关注78 人赞同了该文章目录：基本概念用例子说明概念判别式模型和生成式模型的区别二者所包含的算法在机器学习中，对于有监督学习可以将其分为两类模型：判别式模型和生成式模型。简单地说，判别式模型是针对条件分布建模，而生成式模型则针对联合分布进行建模。1. 基本概念假设我们有训练数据(X,Y)，X是属性集合，Y是类别标记。这时来了一个新的样本，我们想要预测它的类别。我们最终的目的是
机器学习之判别式模型和生成式模型
qq_42244167的博客
08-23 553
生成式模型关注于模拟数据的生成过程，用于生成新的数据样本，以及建模数据的联合分布。：判别式模型的主要目标是建立一个函数或模型，用于直接对输入数据进行分类或回归，即学习条件分布 P(Y|X)，其中 Y 是目标变量（类别或标签），X 是输入特征。：生成式模型的主要目标是建立一个模型，能够模拟数据的生成过程，即学习联合分布 P(X, Y)，其中 X 是输入特征，Y 是目标变量。：生成式模型常用于生成新的数据样本，如自然语言生成、图像生成、样本合成、异常检测等任务，其中关注于数据的生成过程。
判别式模型和生成式模型
BiBlioManiaa的博客
09-21 746
转载自：https://blog.csdn.net/qq_41853758/article/details/80864072 作者：Paulzhao6518 判别式模型(Discriminative Model)：直接对条件概率p(y|x)进行建模，常见判 别模型有：线性回归、决策树、支持向量机SVM、k近邻、神经网络等； 生成式模型(Generative Model)：对联合分布概率p(x,y)进行建模，常见生成式 模型有：隐马尔可夫模型HMM、朴素贝叶斯模型、高斯混合模型GMM、LDA 等； 生成式模型
【机器学习】：判别式模型与生成式模型
故沉的博客
01-04 8041
目录 问题引出 基本概念 举个例子 优缺点 模型实例 参考文献 问题引出 来源：牛客网 以下几种模型方法属于判别式模型(Discriminative Model)的有() 1)混合高斯模型 2)条件随机场模型 3)区分度训练 4)隐马尔科夫模型 基本概念 监督学习的任务是学习一个模型，应用这个模型对给定的输入预测相应的输出。 监督学习又分为生成方法(ge...
浅谈生成式和判别式模型的区别和联系
最新发布
Xbusiwang的博客
02-02 769
生成式和判别式模型
判别式模型和生成式模型的区别（discriminative model and generative model）
amblue的专栏
11-29 1万+
在NLP和机器学习中经常会遇到这两种显著不同的模型，在学习阶段（训练阶段）和评估阶段（测试阶段）都有不同的表现 总结一下它们之间的区别，欢迎补充： 1. 二者最本质的区别是建模对象不同    假设有样本输入值（或者观察值）x，类别标签（或者输出值）y    判别式模型评估对象是最大化条件概率p(y|x)并直接对其建模，生成式模型评估对象是最大化联合概率p(x,y)并对其建模。
决策树模型(Decision TreeModel)和朴素贝叶斯模型（NaiveBayesianModel，NBC）
Alexzhang369学习总结空间
12-02 1万+
贝叶斯分类器的分类原理是通过某对象的先验概率，利用贝叶斯公式计算出其后验概率，即该对象属于某一类的概率，选择具有最大后验概率的类作为该对象所属的类。目前研究较多的贝叶斯分类器主要有四种，分别是：NaiveBayes、TAN、BAN和GBN。应用贝叶斯网络分类器进行分类主要分成两阶段。第一阶段是贝叶斯网络分类器的学习，即从样本数据中构造分类器，包括结构学习和CPT学习；第二阶段是贝叶斯网络分类器的推
决策树和朴素贝叶斯
热门推荐
beichen0518的博客
06-27 1万+
决策树 #热力第二,物理 熵:混沌 系统越大,越乱,越看不懂,混乱度越大,熵越大---&amp;gt;熵增 容器,容器有个隔板,一边是氧气,一边是氮气---&amp;gt;熵 #信息论 计算机是二进制 信息熵 中华民族9万个汉字, 有多少本书? 都是用9万个汉字排列,7000个汉字 金瓶梅(不是小黄书)(明朝风气) 10万个字 因为汉字有顺序咱们就看的动 随即排序 熵增加了,无法读懂这本...
生成式和判别式的联系与区别
小白_努力
09-21 1563
生成式模型与判别式模型的区别 生成式模型(Generative Model)与判别式模型(Discrimitive Model)是分类器常遇到的概念，它们的区别在于： 对于输入x，类别标签y： 产生式模型估计它们的联合概率分布P(x,y) 判别式模型估计条件概率分布P(y|x) 生成式模型可以根据贝叶斯公式得到判别式模型，但反过来不行。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值