目标函数的区别（生成式，判别式，对比式，对抗式）

最新推荐文章于 2023-09-22 21:24:32 发布
最新推荐文章于 2023-09-22 21:24:32 发布
阅读量3.2k 收藏 2
点赞数
分类专栏： 机器学习 文章标签： 深度学习 计算机视觉 神经网络
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/ydmyyh/article/details/123568068
版权

1、生成式

例子：生成的一张图片与目标图片的差距

2、判别式

例子：eight position，就像一个分类任务

3、对比式

在一个表征空间里，使得相似物体之间的特征尽量近，不相似物体之间的特征尽量远

前两种的目标在训练过程中是不变的，而对比式的目标却在不断改变

4、对抗式

主要衡量两个概率分布之间的差异，例如GAN。主要用来生成无监督的数据生成，后来也可以进行特征学习。因为如果能生成很好的图片的话，那就说明应该学到了很好的特征

ydmy
关注
  • 0
    点赞
  • 踩
  • 2
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
预测人工智能与生成人工智能
2301_79280137的博客
08-09 422
在人工智能（AI）领域，出现了两个突出的分支，它们极大地改变了机器与人类创造力的交互和模仿方式。这些分支是预测 AI 和生成 AI。这些人工智能范式中的每一个都有不同的目的，并表现出独特的功能，使其成为各个行业的重要工具。在本文中，我们将深入探讨预测 AI 和生成式 AI，探索它们的细微差别、现实生活中的示例和应用。
李宏毅深度学习GAN课程PPT
06-08
5. **变分自编码器与自编码器**：对比分析GAN与其他生成模型，如VAE（Variational Autoencoder）和AE（Autoencoder）的区别。 6. **GAN的应用**：探索GAN在图像生成、图像修复、超分辨率、风格迁移、音频生成、文本...
生成式模型和判别式模型区别
laosao_66的博客
09-22 976
当存在隐变量（当我们找不到引起某一现象的原因的时候，我们就把这个在起作用但是无法确定的因素，叫“隐变量”） 时，仍可以利用生成方法学习，此时判别方法不能用。监督学习的任务就是从数据中学习一个模型，并用基于这个模型对给定的输入预测相应的输出。，然后从待识别的羊中提取特征 x，然后带入到模型中以判断这只羊是绵羊和山羊概率（比如 LR 中，结果大于 0.5 为正例，小于 0.5 为反例）。学习和计算过程比较复杂，由于学习了更多的样本信息，所以计算量大，如果我们只是做分类，就浪费了这部分的计算量；
对比式和生成式图数据编码器发展综述
qq_44465615的博客
03-13 550
在过去十年中，自监督编码器技术在图像[1]以及自然语言处理[2][3]等方面得到了广泛应用。然而对于不规则的图结构数据，如社交网络、电子商务网络、生物学网络和交通网络等，自监督编码器的应用还较少。这些图结构数据有着复杂的结构和大量待挖掘的信息。当前，对图数据的分析存在着以下难点：1)图结构的不规则性。与语音、图片以及文本这些有着清晰网格结构的数据不同，图数据的结构是不规则的。这导致了一些基本的数学操作难以被推广到图中。2)图的异质性和多样性。图本身包括了不同的类型和属性。
判别式与生成式
qq_38581886的博客
12-07 145
熵代表的是随机变量的不确定度 熵越大，数据的不确定性越高 熵越小，数据的不确定性越低 基尼系数 基尼系数越高，数据的不确定性越强 基尼系数越低，数据的不确定性越低 生成式模型与判别式模型 生成式：是根据数据的联合概率分布，以及边缘分布，根据二者的关系求出数据的条件概率模型，这个条件概率模型就是预测模型 典型的生成模型： 朴素贝叶斯、隐马尔可夫、混合高斯 判别式：根据数据直接学习...
生成式对抗网络的原理和实现方法
不精，不诚，不足以动人
09-17 1598
GAN：generative adversarial network 时间：2014年，Ian Goodfellow和Yoshua Bengio的实验室中相关人员。 gan背后的想法是，你有两个网络，一个生成器GGG和一个鉴别器DDD，互相竞争。生成器生成传递给鉴别器的“假”数据。鉴别器还能看到真实的训练数据，并预测它接收到的数据是真的还是假的。 GAN的作用：训练出一个“造假机器人”，造出来的东西跟真的几乎类似。 GAN的实现原理：两个网络，一个生成器网络GGG和一个鉴别器网络DDD，两者互相竞争来提升自
1.无监督学习概述: 生成学习VS对比学习
博客
10-10 5197
概述 自监督方法在深度学习中将取代当前占主导地位监督方法的预言已经存在了很长时间。 如今，自监督方法在Pascal VOC检测方面已经超过了监督方法（2019年何恺明提出的MoCo方法），并且在许多其他任务上也显示出了出色的结果。 最近自监督方法兴起的背后是他们都遵循了 contrastive learning 。 当前的机器学习方法大多依赖于人类标注信息，这种对标注信息的过度依赖有如下危险： 数据的内部结构远比标注提供的信息要丰富，因此通常需要大量的训练样本，但得到的模型有时是较为脆弱的。 在高维分类问
2014对抗生成网络鼻祖翻译
04-06
### 对抗生成网络的核心知识点解析 #### 一、对抗生成网络(Generative Adversarial Networks, GANs)概述 **对抗生成网络**(Generative Adversarial Networks, GANs)是一种通过对抗过程来估计生成模型的新框架。该...
《语言预训练语生成进展》
09-16
BERT通过遮蔽语言模型任务进行预训练，而ELECTRA则采用生成对抗网络（GAN）的思路，训练一个判别器来区分原始序列和由另一个模型生成的序列，这种方式在资源效率和性能上都表现优秀，尤其是在斯坦福问答数据集...
基于生成对抗网络对视频进行异常事件检测-内含源码和说明书(可自己修改).zip
最新发布
05-25
1. **生成对抗网络（GANs）**：GANs是一种深度学习模型，由两个神经网络构成——生成器（Generator）和判别器（Discriminator）。生成器尝试创建与训练数据相似的新样本，而判别器则试图区分真实样本和生成器产生的...
机器学习之判别式模型和生成式模型
qq_42244167的博客
08-23 447
生成式模型关注于模拟数据的生成过程，用于生成新的数据样本，以及建模数据的联合分布。：判别式模型的主要目标是建立一个函数或模型，用于直接对输入数据进行分类或回归，即学习条件分布 P(Y|X)，其中 Y 是目标变量（类别或标签），X 是输入特征。：生成式模型的主要目标是建立一个模型，能够模拟数据的生成过程，即学习联合分布 P(X, Y)，其中 X 是输入特征，Y 是目标变量。：生成式模型常用于生成新的数据样本，如自然语言生成、图像生成、样本合成、异常检测等任务，其中关注于数据的生成过程。
【学习笔记】对比学习研究（Contrastive Learning Review）（更）
qq_41662822的博客
03-05 722
对比学习，就是缩小与正样本间的距离，扩大与负样本间的距离，使正样本与锚点的距离远远小于锚点与负样本之间的距离，（或使正样本与锚点的相似度远远大于负样本与锚点的相似度）。
目标函数和损失函数的区别
qq_44783880的博客
06-01 3160
损失函数（loss function）或代价函数（cost function）说人话就是：损失函数是用来表示预测值与真实值间的差异的函数。目标函数f(x)说人话：目标函数是优化问题中的一个概念，在机器学习问题中，通常是在一定约束条件下，以最大/小化这个函数为目标，最终求得对应的参数权重。这个函数就是目标函数。在忽略正则项的前提下，LR的损失函数为：此时，目标函数等价于损失函数。在考虑正则项的前提下，LR的损失函数为：此时，目标函数大于损失函数。到这里，有的同学会说，目标函数和损失函数近似（损失函数是目标函数
生成式对抗网络（GAN）-（Generative Adversarial Networks）算法总结（从原始GAN到....目前）
热门推荐
weixin_44474718的博客
05-30 1万+
本文将按时间顺序总结gan的paper（非所有，会挑选个人认为比较重要的），并将参考其它博客（会给出链接），如有侵权，请私信删除。 ???? （2014.06-arXiv）GAN:Generative Adversarial Nets【论文原文】【参考文章】 ????contributions： 开山之作； 原理：生成网络和判别网络的互相对抗。生成网络尽可能生成逼真样本，判别网络则尽可能去判别该样本是真实样本，还是生成的假样本。 采用JS散度作为评判依据。 loss函数（原始gan损失函数的详细解释）：
生成式模型与判别式模型的理解与对比
qq_38675397的博客
08-18 1134
在机器学习中，我们常常利用数据来对模型建模，不同的建模方式产生了两种不同的模型：生成式模型、判别式模型。 判别式模型 由数据学习决策函数Y=f(X)或者条件概率P(Y|X)作为预测模型。判别式模型学习的是不同类别数据的差异性，最终得到最佳分类面 生成式模型 由数据学习联合概率P(Y,X)作为预测模型，生成式模型学习的是不同类别数据的相似性，得到一个相似度概率分布，相似度最高的类别即为预测类别 对比 对比 判别式模型 生成式模型 特点 寻找不...
多种生成式模型间的对比
ggyy的NoteBook
07-23 1181
主要是对Pawel.io在GitHub上的tensorflow-generative-model-collections进行的整理，分别介绍了两种生成式模型GAN与VAE各自多种的不同实现方法。 文章目录Generative Adversarial Networks (GANs)GANLSGANWGANWGAN-GPDRAGANCGANinfoGANACGANEBGANBEGANResults f...
判别函数（一）
Cherish__it的博客
01-18 1万+
线性判别函数和广义线性函数     用判别函数分类的概念：模式识别系统的主要作用；判别各个模式所属的类别对一个两类问题的判别，就是将模式x划分成ω1和ω2两类。两类问题的判别函数（以二维模式样本为例）若x是二维模式样本x = (x1 x2)T，用x1和x2作为坐标分量，得到模式的平面图：这时，若这些分属于ω1和ω2两类的模式可用一个直线方程d(x)=0来划分d(x) = w1x1 + w2x2 +
预测学习：深度生成式模型、DcGAN、应用案例、相关paper
wishchinYang的专栏
06-05 6241
         大模型需要更大量的数据，用以拟合更复杂的假设空间。GAN本身可以用于生成数据，在GAN的学习过程中隐藏了弱监督学习和增强学习的思想。下文主要是对GAN应用于NLP进行相关分析，配图不错，摘抄下来，删除掉关于NLP的部分。本文有大量修改，如有疑虑，请移步原文。       文章：深度生成式模型、DcGAN、应用案例、相关paper       其他参考：生成式模型 & 生成...
深度学习无监督课程：生成式对抗网络全面解析
生成式对抗网络（Generative Adversarial Networks，GANs）是一种深度学习框架，由两个神经网络模型——生成器（Generator）和判别器（Discriminator）构成。它们之间进行对抗性训练，生成器试图创造与训练数据相似...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值