GAN的Loss的比较研究（5）——能量Loss

最新推荐文章于 2024-08-24 11:36:16 发布
最新推荐文章于 2024-08-24 11:36:16 发布
阅读量3.4k 收藏 5
点赞数
分类专栏： 机器学习与神经网络 文章标签： GAN
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/StreamRock/article/details/81192408
版权
本文对比了BEGAN和EBGAN两种基于能量的生成对抗网络，探讨了它们的损失函数差异，并通过实验展示了能量学习在生成图像上的效果。BEGAN利用Auto-Encoder作为Discriminator，EBGAN引入了margin loss。实验结果显示，虽然能量学习不一定总能达到预期，但能直观改善生成结果。
摘要由CSDN通过智能技术生成

上一篇文章讲的是《BEGAN: Boundary Equilibrium Generative Adversarial Networks》将能量函数（Energy）与Wasserstein Distance相结合，再辅之以比例反馈控制，让GAN迅速收敛，并保持了多样性。具体是：

  • 让Auto-Encoder作为Discriminator，将原图与重建图的逐点差异（pixel-wise error）作为能量。
  • 将D输出的能量看成是一个概率分布，用Wasserstein Distance作为衡量概率分布的距离：真图能量概率分布、假图能量概率分布。

  • 对Wasserstein Distance简化处理，真正衡量的是两个能量分布重心的距离

    由Auto-Encoder重建差异构成的能量作为Discriminator的输出其出处是在《ENERGY-BASED GENERATIVE ADVERSARIAL NETWORKS》中，文中提到EBGAN模型，比较EBGAN与BEGAN差异在哪里呢？
    BEGAN与EBGAN的模型（D-G）是相似的，如图：
    这里写图片描述

    BEGAN的Loss：

    (x)=|x−D(x)|(1)D=(x)−kt⋅(G(zD))(2)G=(G(zG))(3)kt
最低0.47元/天 解锁文章
田神
关注
专栏目录
BigGAN-Tensorflow-master
09-14
7. **损失函数**：BigGAN采用了多种损失函数的组合，包括对抗损失（Adversarial Loss）、特征匹配损失（Feature Matching Loss）和分类一致性损失（Classification Consistency Loss），这些损失函数共同作用于生成...
六种GAN评估指标的综合评估实验，迈向定量评估GAN的重要一步
AcceptedLin的博客
02-18 1万+
   六种GAN评估指标的综合评估实验，迈向定量评估GAN的重要一步 生成对抗网络的评估目前仍以定性评估和一些可靠性较差的指标为主，这阻碍了问题的细化，并具有误导性的风险。本文讨论了多个 GAN 评估指标，并从多个方面对评估指标进行了实验评估，包括 Inception Score、Mode Score、Kernel MMD、Wasserstein 距离、Fréchet Inception Dis...
理解原始Gan Loss 和 Hinge Gan Loss
daimashiren的博客
03-04 5513
原始Gan Loss minG maxD V(D,G)=Ex∼Pdata[log D(x)]+Ez∼Pz (Z)[log(1−D(G(Z)))] \mathop{min}\limits_{G}\space \mathop{max}\limits_{D}\space V(D,G) = E_{x\sim P_{data}}[log\space D(x)] + E_{z \sim P_z \space (Z)}[log(1-D(G(Z)))] Gmin​ Dmax
超分中的GAN总结：常用的判别器类型和GAN loss类型
最新发布
BigerBang的博客
08-24 1094
总结了GAN在图像超分辨率中的应用，包括常用的判别器类型：经典的分类网络、patch gan和unet和GAN loss类型: gan、wgan、lsgan、ragan
【GAN】GANLoss之‘vanilla‘, ‘lsgan‘, ‘wgan‘, ‘hinge‘的具体计算方式及实现
一个CV小白的博客
06-26 2575
由于在实际使用中遇到了多种形式的GANLoss，就整理了以下常用的四种GANLoss在应用中的区别，包括'vanilla', 'lsgan', 'wgan', 'hinge'。
【GAN】若干常见GAN中的Loss及部分知识
NooahH的博客
05-19 1万+
1. GAN 原始GAN论文[1]中指出，生成器GGG和判别器DDD在进行最小最大博弈。可以用下面的函数表示： min⁡Gmax⁡DV(G,D)=min⁡Gmax⁡DEx∼pdata[log⁡D(x)]+Ez∼pz[log⁡(1−D(G(z)))] \min_{G} \max_{D} V(G, D) = \min_{G} \max_{D} \mathbb{E}_{x \sim p_{data}}[\log D(x)] + \mathbb{E}_{z \sim p_{z}}[\log (1-D(G(z)))]
A Multi-Class Hinge Loss for Conditional GANs
weixin_37958272的博客
05-25 473
A Multi-Class Hinge Loss for Conditional GANs 我们提出了一种新的算法，通过常用的Hinge损失的多级泛化，将类条件信息纳入GANs的critic，该算法与监督和半监督环境兼容。我们研究了同时训练最先进的生成器和准确的分类器之间的折衷。我们展示了生成器-critic对尊重类条件输入和生成最高质量的图像之间的权衡。通过我们的multi-hinge lossmulti-hinge loss修改，我们能够改善Imagenet数据集上的Inception得分和Freche
CycleGAN_imageprocessing_cyclegan_
09-29
标题“CycleGAN_imageprocessing_cyclegan_”提到了一个关键的深度学习模型——CycleGAN（循环对抗网络），这是一个在图像处理领域广泛应用的技术，尤其在图像风格转换上表现出色。CycleGAN的核心思想是无监督学习，...
GAN_GAN；生成对抗网络_38gan_gantest_
10-02
生成对抗网络（GAN，Generative Adversarial Networks）是由Ian Goodfellow等人在2014年提出的一种深度学习框架，其核心思想是通过两个神经网络模型——生成器（Generator）和判别器（Discriminator）之间的对抗性...
Gan网络代码
10-23
总之，GANs和CycleGAN为图像转换和生成提供了强大的工具，它们的理论基础和实践应用都是深度学习领域的重要研究方向。通过学习和实践，我们可以更好地理解和掌握这一先进技术，并将其应用于更多的创新项目中。
gan判别器的loss接近零_GAN——随笔记录
weixin_36084095的博客
01-09 3526
WGAN & WGAN-GP:1.资料参考：互怼的艺术：从零直达WGAN-GP - 科学空间|Scientific Spaces​kexue.fm郑华滨：令人拍案叫绝的Wasserstein GAN​zhuanlan.zhihu.com2.code参考：https://github.com/bojone/gan/blob/master/mnist_gangp.py​github.com3....
（具体解决方案）训练GAN深度学习的时候出现生成器loss一直上升但判别器loss趋于0
陶小桃Blog
08-04 5385
当然，需要明确的是，GAN的效果如何，其实是很主观的事情，也许和loss表现的趋势没啥太大的关系，也许在loss表现不对劲的情况下也能生成效果好的图片。今天小陶在训练CGAN的时候出现了绷不住的情况，那就是G_loss（生成器的loss值）一路狂飙，一直上升到了6才逐渐平稳。而D_loss（判别器的loss值）却越来越小，具体的情况就看下面的图...训练里是非常容易遇到的问题，所以不用慌，是有解决的办法的。的loss值）却越来越小，具体的情况就看下面的图片吧。的时候出现了绷不住的情况，那就是G_loss（
Gan的loss函数
qq_38101208的博客
08-08 2306
1. Classic Adversarial Loss 优化目标为： D(x)为经过sigmoid的输出值 （1）在GAN第一阶段——求Discriminator，最大化 实验中统计梯度是对最小值进行寻优的，因此实际操作上是对目标函数做最小化处理： 实现方式： dis_real、dis_fake分别为真假样本输入判别器输出的logit，未经过sigmoid （1）直接计算 L1 = F.mean(-F.log(F.sigmoid(dis_real))...
GAN 网络的损失函数介绍代码
tony365的博客
03-07 1892
pixel_opt:相比于一般的l1 loss多了 loss weight, reduction, weight三个功能。首先loss_util.py文件定义weight_lossArgs:Returns:"""else:Args:Returns:"""else::Example:tensor(3.)"""loss = loss_func(pred, target, **kwargs) # 这里 reduction='none'接下来定义带weight的L1 loss。
GAN网络概述及LOSS函数详解
makabaka的博客
10-31 2万+
Generative Adversarial Nets 上周周报已经写了这篇论文，本周相对GAN网络的LOSS进行进一步的学习和研究。 GAN网络： 条件：G依照真实图像生成大量的类似图像，D是辨别输入的图像是真实图像还是G生成的虚假图像。 原理：G和D是互相促进的。G的目的是产生的图像让D感到模糊不知道该分成realistic（看起来像是现实的）还是fake（看起来是假的），D的目的是将rea...
GAN（一）：Loss函数（vanilla GAN objective）
yuanCruise
05-03 9607
GAN中的loss函数的构建 主要分为 G_Loss & D_Loss，分辨为generator和discriminator的损失函数 G_Loss： 设置这个loss的目的在于：尽可能使G（generator）产生的伪数据能够与真实数据一致（真实数据标签为1） 基于此：在tensorflow中，将该loss设置为如下格式 D_fake_loss = ...
GAN: 原始损失函数详解
ch_shijie的博客
03-13 3273
GAN损失函数详解（转载）
训练正常&异常的GAN损失函数loss变化应该是怎么样的
热门推荐
xiongxyowo的博客
08-02 2万+
这里以个人用到的一个网络为例，仅供参考，不代表所有情形。用tensorboard记录loss曲线的走向，横轴为迭代次数(iter)，纵轴为损失(loss)值。
对抗生成网络（GAN）中的损失函数
L888666Q的博客
11-10 1万+
L1损失函数又称为MAE(mean abs error)，即平均绝对误差，也就是预测值和真实值之间差值的绝对值。 L2损失函数又称为MSE(mean square error)，即平均平方误差，也就是预测值和真实值之间差值的平方。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值