第六章 渐进式增长生成对抗网络PGGAN

最新推荐文章于 2024-08-10 08:26:25 发布
最新推荐文章于 2024-08-10 08:26:25 发布
阅读量888 收藏 3
点赞数
分类专栏： GAN 文章标签： 生成对抗网络 深度学习 计算机视觉
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/like_jmo/article/details/120979314
版权

写在前面：最近看了《GAN实战》，由于本人忘性大，所以仅是笔记而已，方便回忆，如果能帮助大家就更好了。

一种能够生成全高清的具有照片级真实感图像的前沿技术，一经ICLR2018提出就引起了轰动。

本章涉及的四个创新点：

高分辨率层的渐进式增长和平滑

小批量标准差（仅应用鉴别器）

均衡学习率

像素级特征归一化（仅用于生成器）

高分辨率层的渐进式增长和平滑

渐进式增长：训练过程从几个低分辨率的卷积层发展到多个高分辨率的层，线训练早期的层，再引入更高分辨率的层。

平滑：引入这些层时，不是立即跳到该分辨率，而是通过参数\alpha（介于0-1之间，从0到1线性缩放）平滑的增加高分辨率的新层。

小批量标准差（仅应用鉴别器）

为了生成图片的某一类内丰富多样，Karras创造了一种方法，使鉴别器可以鉴别所获取的样本足够多样。这种方法本质上是为鉴别器计算了一个而外的标量统计量。这个统计量是生成器生成的或来自真实数据的小批量中所有像素的偏差。

（1）4D->3D：计算批次中所有图像和所有通道（高、宽、颜色）的标准偏差，然后得到关于每个像素和每个通道的标准偏差的一个图像

（2）3D->2D：对所有通道的标准差取均值，得到像素的一个特征图或标准差矩阵，但是颜色通道折叠了

（3）2D->标量：对前一个矩阵内所有像素的标准偏差取均值，以获得一个标量值。

均衡学习率

确保将所有权重w归一化为w{}'在一定范围内，{w}'=w/c，对于常数c对每一层是不一样的，取值取决于权重矩阵的形状。p.s.书上都说这是什么黑魔法，我觉得也是，看不懂啊？？

像素级特征归一化（仅用于生成器）

像素级归一化将在输入被送到在一层之前在每一层获得一个激活幅度。

对每个特征图执行：

（1）在位置（x，y）上获取该特征图（fm）的像素值。

（2）为每个（x，y）构造一个向量，其中

       

（3）将步骤2中定义的每个向量v_{i,j}归一化到单位标准值，称之为n_{i,j}。

（4）将原来的张量形状传递到下一层。

 n_{(x,y)}=a_{(x,y)}/\sqrt{\frac{1}{N}\sum_{j=0}^{N-1}(a_{x,y}^{j})^{2}+\varepsilon }

上述公式是步骤2中构造的每一个像素的归一化 。

CV小Rookie
关注
专栏目录
1.3渐近式增长生成对抗网络（PGGAN)
fdgdg1的博客
11-19 3831
1.导入数据库 import tensorflow as tf from tensorflow import keras as K 2.高分辨率层渐近式平滑增长（第一个创新点） 专业的术语，就是训练过程正在从几个低分辨率的卷积层发展到多个高分辨率层，先训练早期的层，再引入更高分辨率的层，但是即便一次增加一个层，也会给训练带来巨大的影响。PGGAN所做的就是平滑地增加这些层，以给系统适用更高的分辨率的时间 但不是立即跳到该分辨率，而是在通过参数a平滑地增加高分辨率的新层 ...
【计算机视觉|生成对抗】逐步增长的生成对抗网络（GAN）以提升质量、稳定性和变化
远
08-18 1588
我们描述了一种新的生成对抗网络（GANs）训练方法。关键思想是逐步地使生成器和判别器增长：从低分辨率开始，随着训练的进行，我们添加新的层（layer），这些层模拟了越来越精细的细节。这不仅加速了训练过程，还极大地稳定了训练过程，使我们能够生成前所未有质量的图像，例如102421024^210242分辨率的CELEBA图像。我们还提出了一种简单的方法来增加生成图像的变化，并在无监督的CIFAR10数据集中实现了创纪录的8.808.808.80的Inception分数。
基于PyTorch的渐进式生成对抗网络（PGGAN）实现
最新发布
gitblog_00484的博客
08-10 326
基于PyTorch的渐进式生成对抗网络（PGGAN）实现 pggan-pytorch:fire::fire: PyTorch implementation of "Progressive growing of GANs (PGGAN)" :fire::fire:项目地址:https://gitcode.com/gh_mirrors/pg/pggan-pytorch 在深度学习领域，生成对抗网络（...
学习生成对抗网络？从这里开始吧
人邮异步社区
05-22 1462
机器能否思考——这一想法比计算机本身出现得还要早。数学家、逻辑学家以及计算机科学家艾伦•图灵（Alan Turing），或许是凭借在破译密码机方面做出的贡献而广为人知的，但他于1950年撰写的《计算机器与智能》（Computing machinery and intelligence）这篇论文也足以使他的名字永载后世。 在这篇文章中，图灵提出了一种叫作模仿游戏的测试。今天，人们更习惯称之为图灵测试。在这个假设的测试场景中，一个不知情的观察者与位于一扇紧闭的门后的两个“对应者”交谈：一个是人类，另一个是计算
对抗性潜在自动编码器：解决自动编码器和生成对抗网络结合、非纠缠表征问题的通用架构
14104对抗性潜在自动编码器斯坦尼斯拉夫·皮德霍尔斯基西弗吉尼亚大学计算机科学与电气工程系，Morgantown，WV 26506{stpidhorskyi，daadjeroh，gidoretto}@ mix.wvu.edu摘要自动编码器网络是一种无监督的方法，旨在...
生成对抗网络在图像语义分割中的应用
生成对抗网络（GAN）概述 ### 1.1 GAN的基本原理 生成对抗网络（Generative Adversarial Networks, GAN）是一种由生成器（Generator）和判别器（Discriminator）组成的机器学习模型。GAN的基本原理如下： 生成器...
【入门篇】：生成对抗网络（GAN）原理揭秘：新手必学基础与技巧
生成对抗网络（GAN）是深度学习领域的一项重大突破，它由两个神经网络组成：生成器和判别器，这两个网络在训练过程中相互竞争，相互促进，共同提高。生成器的目标是产生尽可能接近真实数据的虚假数据，而判别器的...
探究ResNet在生成对抗网络（GAN）中的作用
[探究ResNet在生成对抗网络（GAN）中的作用](https://img-blog.csdnimg.cn/20200506191636766.png?x-oss-process=image/watermark,type_ZmFuZ3poZW5naGVpdGk,shadow_10,text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzM0Mj...
"Wasserstein散度和WGAN-div：新的优化目标GAN中的挑战和优势
GANs的Wasserstein散度Jiqing Wu1，Zhiwu Huang1，Janine Thoma1，DineshAcharya1，and Luc Van Gool1， 21瑞士苏黎世联邦理工学院计算机视觉实验室{jwu，zhiwu.huang，jthoma，vangool}@ vision.ee.ethz.ch，...
Python-Pytorch实现渐进式增长GANPGGAN
08-11
Pytorch实现“渐进式增长GAN（PGGAN）”
generator-jekyll-starter-kit, osm渐进式网络应用生成器.zip
09-17
generator-jekyll-starter-kit, osm渐进式网络应用生成器 Jekyll Google web-starter-kit = 最好的两个世界 安装首先，使用 npm ( 我们假设你已经安装了 node.js 。) 安装 Yeoman和 jekyll
image_generator_2:带有渐进式GAN的图像生成器
05-04
image_generator_2 概述 这是Mel Icon Generator版本2中使用的源代码。详细说明。 假定环境 python 3.7.1 您可以使环境与pip install -r requirements.txt保持一致。 程序 PGGAN_train.py是执行学习并输出学习过程和学习结果的程序。 PGGAN_inference.py是一个程序，读取由学习结果输出PGGAN_train.py到发电机，执行推理，并输出所生成的图像。 如何使用 在./dataset目录中PGGAN_train.py一个./dataset目录 ./dataset目录，把你要使用的格式学习任意数量的图像./dataset/*/* （图像文件格式PNG） PGGAN_train.py的目录中处于python PGGAN_train.py运行开始学习 学习过程在./output_img/pgga
渐进结构—条件生成对抗网络（PSGAN）
weixin_34392435的博客
05-15 812
  Full-body High-resolution Anime Generation with Progressive Structure-conditional Generative Adversarial Networks，即用PSGAN生成高分辨率的全身动画。据了解，DeNA的业务涵盖社交游戏、电子商务等领域，此前公司推出的手游《忍者天下》也在中国市场取得了骄人的成绩。昔日忍者化身...
生成对抗性网络简介
qq_40985985的博客
05-27 3426
1. 原理1. GANs如何工作2. GAN架构3. 培训GAN4. 艺术家与评论家5. 评估指标6. GAN变体7. GAN应用8. 图像合成（Image synthesis）9. 图像到图像的转换（Image-to-image translation）10. 文本到图像（Text-to-Image）11. 超越图像12. 其他GAN应用参考这篇博客将介绍生成对抗性网络（GAN）、各种GAN变体以及解决现实世界问题的有趣的应用程序。
机器学习笔记 - 基于Torch Hub的渐进式GAN架构
学以致用 知行合一
05-15 511
Progressive GAN 的架构细节，使其能够生成高分辨率图像。 此外，我们将了解如何使用 Torch Hub 导入预训练的 PGAN 模型，并在我们的项目中使用它来生成高质量的图像。 2014 年生成对抗网络的诞生及其有效地对任意数据分布进行建模的能力，席卷了计算机视觉社区。 然而，在它们出现后的很长一段时间内，GAN 的生成能力仅限于为相对低分辨率的数据集（例如，MNIST（28×28图像）、CIFAR10（32×32图像）等）生成样本。这可以归因于生成对抗网络难以捕捉底层数据分
rsa加解密算法c语言_车联网安全之国密算法与其他算法的区别
weixin_39862985的博客
12-19 454
概述：在车联网中，不管是端到云、还是云到车，每个环节、每个节点的信息安全保障都离不开加解密算法的支持，加解密算法的合理使用以及其计算能力直接影响车联网的性能和用户的体验。今天和大家讨论一下国密算法与其他加解密算法(即国际算法是美国的安全局发布，是现今最通用的商用算法)的差别，以便于车联网的设计者们在不同的环节、节点采用最优的算法，从而提高产品的性价比。国密算法：即国产密码算法，是国家密码...
小批量标准差简介
qq_45795040的博客
10-12 113
小批量标准偏差的思想是，在生成器生成一批图像时，考虑整个批次中的图像之间的差异。在训练过程中，生成器的目标是生成能够愚弄判别器的伪造图像，而判别器的目标是尽量区分真实图像和伪造图像。通过将小批量标准偏差考虑到损失函数中，可以促使生成器生成更多样性的图像，因为生成的图像必须在小批量内具有一定的差异性，从而更难以被判别器正确分类。这有助于提高生成器的性能和训练的稳定性。小批量标准偏差是一种有助于改善GAN训练的技术，但它通常需要与其他技术一起使用，如渐进式增长、样式标准偏差等，以实现更高质量的生成图像。
Pytorch中的BatchNorm
WangWen123_111的博客
02-23 1550
class torch.nn.BatchNorm1d(num_features, eps=1e-05, momentum=0.1, affine=True) 对小批量(mini-batch)3d数据组成的4d输入进行批标准化(Batch Normalization)操作 在每一个小批量（mini-batch）数...
介绍PGGAN的渐进式网络
05-15
PGGAN（Progressive Growing of GANs）是一种基于生成对抗网络（GAN）的图像生成模型，其主要思想是逐步增加生成器和判别器的分辨率，从而逐步生成高分辨率图像。 PGGAN的渐进式网络由两个部分组成：生成器和判别器...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值