[论文笔记] Self-Attention Generative Adversarial Networks

最新推荐文章于 2021-10-18 15:42:21 发布
最新推荐文章于 2021-10-18 15:42:21 发布
阅读量723 收藏 2
点赞数
分类专栏： 论文笔记 GAN
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/qq_26020233/article/details/90047861
版权

问题：卷积只有局部的感受野，大范围的依赖关系只能通过多层卷积进行处理。这可能影响网络学习到长依赖关系：1、小模型可能无法学习；2、优化算法可能很难找到多层卷积的合适参数来捕捉这种依赖关系；3、这种参数化可能对之前没见过的图片很不稳定，容易失败。
单纯增大卷积核扩大感受野是个办法，但增大了计算量

文章贡献：
1、SAGAN 中引入：引入attention机制学习long range dependency
在这里插入图片描述
2、生成器、鉴别器均引入 spectral normalization提高训练稳定性
在这里插入图片描述
在这里插入图片描述
3、在ImageNet上进行实验，生成128X128大小的图像，达到SOTA指标，IS为52.52，FID为18.65 。（基于50k随机生成样本计算）
在这里插入图片描述

实验细节：
1、128X128大小Imagenet训练集，Adam优化器，hinge损失函数，迭代一百万次取最优指标的模型，指标是在50k随机产生的样本上进行计算得出的。
2、文中使用的稳定GAN训练的技巧：

attention map 分析

最低0.47元/天 解锁文章
hellopipu
关注
  • 0
    点赞
  • 踩
  • 2
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
三 、GANFIT: Generative Adversarial Network Fitting for High Fidelity 3D Face Reconstruction
qq_41792569的博客
04-16 428
这篇论文的主要贡献是提出了一种基于生成对抗网络（GAN）的方法，用于实现高保真度的三维人脸重建，先，该方法使用了一个基于大规模人脸数据集的统计模型，也就是三维形变模型（3DMM），用于描述人脸的形状和纹理信息。然后，为了从二维图像中重建三维人脸，论文提出了一种基于生成对抗网络的方法，即GANFIT。这种方法利用了GAN的对抗性训练机制，将一个生成器网络和一个判别器网络进行训练，从而使得生成器网络可以从二维图像中生成高质量的三维人脸模型。
Python-SelfAttentionGenerativeAdversarialNetworksSAGAN的简单Tensorflow实现
08-11
Simple Tensorflow implementation of "Self-Attention Generative Adversarial Networks" (SAGAN)
Python-Pytorch实现SelfAttentionGenerativeAdversarialNetworksSAGAN
08-11
Pytorch实现Self-Attention Generative Adversarial Networks (SAGAN)
Generative Adversarial Network Fittingfor High Fidelity 3D Face Reconstruction论文笔记
HR_Reborn的博客
10-18 827
1、摘要 总结了过去人脸重建的趋势（深度卷积的力量神经网络（DCNN）），和最近几年可微渲染器来学习面部身份特征与 3D 可变形模型的形状和纹理参数之间的关系。但这些都无法高质量的重建纹理和高保真度，介绍了论文利用生成对抗网络 (GAN) 和DCNNs 来从单个图像重建面部纹理和形状。 2、Introduction 过去：主要的研究方向，利用深度卷积神经网络进行3D形状和纹理重建，包含的两种方法：1训练回归DCNN从图像到3DMM的参数，2使用一个3DMM来合成图像并且定制一个使用DCNN估计深度的i
SAGAN(Self-Attention Generative Adversarial Networks)论文笔记
xuefengxiaoyang的博客
05-12 2358
论文链接：Self-Attention Generative Adversarial Networks 这篇论文是将自注意力机制引入生成对抗网络用于图像生成任务。 摘要： 这篇论文，作者提出了自注意力生成对抗网络(SAGAN)来建模像素间的远距离关系，用于图像生成任务。传统的生成对抗网络(GAN)生成高分辨率图像的细节仅仅利用了低分辨率特征图的局部空间信息。在SAGAN，会利用特征图上所有的...
Hands-On-Generative-Adversarial-Networks-with-PyTorch-1.x:Packt发布的具有PyTorch 1.x的动手生成对抗网络
05-26
使用PyTorch 1.0的动手生成对抗网络 这是Packt发行的的代码存储库。 使用Python实施下一代神经网络以构建强大的GAN模型这本书是关于什么的？ 随着研究和开发的不断发展，生成对抗网络（GAN）是深度学习领域的下一个...
Super-Resolution-using-Generative-Adversarial-Networks-master.zip
08-16
Generative-Adversarial-Networks生成式对抗网络代码进行超分辨
Learning Generative Adversarial Networks 无水印pdf转化版
11-29
Learning Generative Adversarial Networks 英文无水印pdf pdf所有页面使用FoxitReader和PDF-XChangeViewer测试都可以打开 本资源转载自网络，如有侵权，请联系上传者或csdn删除 本资源转载自网络，如有侵权，...
Generative Adversarial Networks Cookbook.zip
05-15
Developing Generative Adversarial Networks (GANs) is a complex task, and it is often hard to find code that is easy to understand.This book leads you through eight different examples of modern GAN ...
Learning Generative Adversarial Networks
07-30
Learning Generative Adversarial Networks_Next generation deep learning simplified First published: October 2017 | 203页 | pdf格式
使用attention+GAN网络输入文本生成和文本相匹配的图像（文本描述生成）
08-19
该代码是CVPR2018一篇关于文本到图像合成的文章，经过测试可以使用
【论文阅读笔记】NIPS 2016 Tutorial:Generative Adversarial Networks
寸先生的AI道路
01-23 2429
        本文是Ian Goodfellow在NIPS2016上演讲的总结文稿，是对GAN工作原理，未来发展的一篇简单概述，写的很好，在此博客中我保留了文章结构并其中重要的文字截取并翻译，文章本后还有习题和答案，这里省略，感兴趣的可以下载原文查看。       如果希望观看现场演讲视频的童鞋也可以访问：https://channel9.msdn.com/events/Neural-Info...
增大感受野
jacke121的专栏
03-09 5336
self.conv2 = nn.Conv2d(96, 96, kernel_size=3, stride=2, padding=1) self.conv4_0 = nn.Conv2d(128, 128, kernel_size=5, stride=2, padding=2)
GAN学习笔记:MMGAN:Manifold-Matching Generative Adversarial Network
sherry_颖的博客
12-06 2312
一、主要思想 MMGAN的一个重要思想在于：数据可以分为两个不同的manifold：真实数据和生成数据。 那么，训练G的目标就是尽可能地match这两个manifold。 在MMGAN中，不妨用球形来表示manifold，这样，可以使用指数平滑来得到球的中心和半径，此外，针对mode collapse的问题，MMGAN也进行了相关的工作来提升数据的diversity，接下来会具体介绍。 二
生成对抗网络(GAN，Generative Adversarial Networks) 学习笔记
tz_zs的博客
12-14 2579
____tz_zs学习笔记GAN论文：[1406.2661] Generative Adversarial NetworksThe GAN Zoo（github上的一个项目，总结了所有GAN论文）知乎相关话题和好文章：令人拍案叫绝的Wasserstein GAN（详细的讲了WGAN）Lyken的回答 - 知乎（讲的很好，信息很多）其他：相对熵，又称KL散度( Kullback–Leibler di...
FACE AGING WITH CONDITIONAL GENERATIVE ADVERSARIAL NETWORKS
u011961856的专栏
01-11 2193
文章用于生成不同年龄的图片,采用的模型是条件对抗网络,主要创新点是,首先通过一个网络,提取图像特征向量,并通过身份保持网络,优化图像的特征向量,特到特征向量z∗z^*,之后便可以对于每个输入年龄,查找其年龄向量,并将该年龄向量与输入图片特征向量z∗z^*串联,输入生成网络,生成目标年龄图片.特征向量优化网络结构如下,网络的训练数据为,输入图像x,以及该图像的年龄y0y_0,对输入图像,将其输入Enc
ESRGAN:增强型超分辨率生成对抗网络（Enhanced Super-Resolution Generative Adversarial Networks）论文笔记
热门推荐
weixin_41018348的博客
09-29 5万+
                                  ESRGAN:增强型超分辨率生成对抗网络 论文原文：https://arxiv.org/abs/1809.00219 摘要： 超分辨率生成对抗网络（SRGAN）[1]是能够在单幅图像超分辨率期间生成真实感纹理的一项重要工作。然而，幻觉的细节往往伴随着令人不快的伪影。为了进一步提高视觉质量，我们深入研究了SRGAN网络体系结构...
Generative Adversarial Nets（译）
小时候贼聪明
01-16 3万+
我们提出了一个通过对抗过程估计生成模型的新框架，在新框架中我们同时训练两个模型：一个用来捕获数据分布的生成模型G，和一个用来估计样本来自训练数据而不是G的概率的判别模型D，G的训练过程是最大化D产生错误的概率。
GAN人脸修复--Generative Face Completion
07-27 1万+
Generative Face Completion  CVPR 2017  https://arxiv.org/abs/1704.05838 Code: https://github.com/Yijunmaverick/GenerativeFaceCompletion 首先来直观的认识一下人脸修复是什么？ 输入一个有缺失的人脸图像，得到完整的人脸图像  本文算法训练流程
self-attention generative adversarial networks
最新发布
03-16
自注意力生成对抗网络（self-attention generative adversarial networks）是一种深度学习模型，它结合了自注意力机制和生成对抗网络。自注意力机制是一种能够让模型自动学习输入序列中不同位置之间的依赖关系的技术...

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值