weixin_42360095的博客

原创 Anaconda出错 No module named conda

显示如上错误时，如果实在找不到问题，可以找到Anaconda的安装bash文件“ABCD.sh”，然后输入bash -u ABCD.sh更新一下就可以直接解决以上问题，且之前在Anaconda下安装的包和环境都不会丢失。。。主要是为了懒得再安装一遍tensorflow，torch…为了防止下次相似的问题再踩坑，记录一下。...

原创 PyTorch中 nn.Conv2d与nn.ConvTranspose2d函数的用法

通道数问题 ：描述一个像素点，如果是灰度，那么只需要一个数值来描述它，就是单通道。如果有RGB三种颜色来描述它，就是三通道。最初输入的图片样本的 channels ，取决于图片类型；卷积操作完成后输出的 out_channels ，取决于卷积核的数量。此时的 out_channels 也会作为下一次卷积时的卷积核的 in_channels；卷积核中的 in_channels ，上面已经说...

原创 Pytorch——conv2d参数使用

torch.nn.Conv2d(in_channels, out_channels, kernel_size, stride=1, padding=0, dilation=1, groups=1, bias=True, padding_mode='zeros')各个参数含义如下图：输入输出的格式：input(N,C-in,H-in,W-in)output(N,C-out,H-out,W...

原创 tensorflow的padding操作

根据tensorflow中的conv2d函数，我们先定义几个基本符号1、输入矩阵 W×W，这里只考虑输入宽高相等的情况，如果不相等，推导方法一样，不多解释。2、filter矩阵 F×F，卷积核3、stride值 S，步长4、输出宽高为 new_height、new_width当然还有其他的一些具体的参数，这里就不再说明了。我们知道，padding的方式在tensorflow里分两种，一...

转载 tf.clip_by_value()

tf.clip_by_value(1-y,1e-10,1.0)，这个 语句是在tensorflow实战Google深度学习框架中看见的，可以参看63页，运用的是交叉熵而不是二次代价函数。功能：可以将一个张量中的数值限制在一个范围之内。（可以避免一些运算错误:可以保证在进行log运算时，不会出现log0这样的错误或者大于1的概率）参数：（1）1-y：input数据（2）1e-10、1.0是对数据...

转载 图像的上采样（upsampling）与下采样（subsampled）

缩小图像（或称为下采样（subsampled）或降采样（downsampled））的主要目的有两个：1、使得图像符合显示区域的大小；2、生成对应图像的缩略图。放大图像（或称为上采样（upsampling）或图像插值（interpolating））的主要目的是放大原图像,从而可以显示在更高分辨率的显示设备上。对图像的缩放操作并不能带来更多关于该图像的信息, 因此图像的质量将不可避免地受到影响。然而...

转载 Wasserstein distance（EM距离）

转载 GAN-GP(Gradient Penalty)

在前面的基础上：GAN——DCGAN——LSGAN——WGAN——WGAN-GP（本文）在原始GAN基础上，DCGAN作者首先提出了一个将CNN引入GAN的全新架构，在一定程度上提高了训练的结果，但是这仅仅是一个治标不治本的架构；LSGAN在DCGAN的网络架构基础上进一步对Objective Function做了变动，但是还是会出现mode collapse的问题；在将KL散度–JS散度...

原创 论文阅读《Wide-Context Semantic Image Extrapolation》与代码实现

1：介绍作者首先介绍了一下自己的方法可以从一小部分面部生成具有头发和背景的完整肖像，根据体形创建鸟头和尾部（图1）或仅生成完整的人体上半身信息。算法需要适应考虑每个不完整图像的非常不同的上下文并且预测多达未知像素的三倍。改变图像大小将图像大小扩展到边界之外类似的是超分辨率重建，就是从馈入网络之前对输入进行上采样，或者是在网络中使用空间扩展模块。单侧约束上下文的边界条件只有一侧，如图1所示，黑...

转载 Sub-pixel Convolution(子像素卷积)

Sub-pixel convolution是一种巧妙的图像及特征图upscale的方法，又叫做pixel shuffle（像素洗牌）。我们知道，用深度学习处理图像的话，经常需要对特征图放大。常见的方法有直接上采样，双线性插值，反卷积等等。本文主要介绍一种在超分辨率中经常使用的upscale方法——sub-pixel convolution。采用CNN对feature map进行放大的方法，除了有...

原创 TensorFlow中CNN的两种padding方式“SAME”和“VALID”

https://blog.csdn.net/wuzqchom/article/details/74785643

转载 tf.pad详解（能懂版）

tf.pad：填充函数 tf.pad( tensor,paddings, mode='CONSTANT',name=None)tensor是要填充的张量padings ，代表每一维填充多少行/列，它的维度一定要和tensor的维度是一样的，这里的维度不是传统上数学维度，如[[2,3,4],[4,5,6]]是一个3乘4的矩阵，但它依然是二维的，所以pad只能是[[1,2],[1,2]]这种。...

转载 PyTorch中permute的用法

permute(dims)将tensor的维度换位。参数：参数是一系列的整数，代表原来张量的维度。比如三维就有0，1，2这些dimension。例：import torchimport numpy as npa=np.array([[[1,2,3],[4,5,6]]])unpermuted=torch.tensor(a)print(unpermuted.size()) ...

转载 GAN的谱归一话

https://blog.csdn.net/songbinxu/article/details/84581248

转载 tf.placeholder作用

举个栗子：x = tf.placeholder(tf.float32,[None,784])为什么要使用tf.placeholder?因为每一个tensor值在graph上都是一个op，当我们将train数据分成一个个minibatch然后传入网络进行训练时，每一个minibatch都将是一个op，这样的话，一副graph上的op未免太多，也会产生巨大的开销；于是就有了tf.pla...

转载 tf.extract_image_patches用法

原文链接：https://stackoverflow.com/questions/40731433/understanding-tf-extract-image-patches-for-extracting-patches-from-an-image?newreg=2f7aa12c4b6d4870a979698318d457a4tf.extract_image_patches: 提取图片中的一小...

转载 论文解析Generative Image Inpainting with Contextual Attention

https://www.cnblogs.com/bingmang/p/10000992.html

转载 PyTorch学习之归一化层（BatchNorm、LayerNorm、InstanceNorm、GroupNorm）

BN，LN，IN，GN从学术化上解释差异：BatchNorm：batch方向做归一化，算NHW的均值，对小batchsize效果不好；BN主要缺点是对batchsize的大小比较敏感，由于每次计算均值和方差是在一个batch上，所以如果batchsize太小，则计算的均值、方差不足以代表整个数据分布LayerNorm：channel方向做归一化，算CHW的均值，主要对RNN作用明显；Inst...

原创 【论文笔记】Image Inpainting for Irregular Holes Using Partial Convolutions

https://blog.csdn.net/king_haw/article/details/86177796

转载 图像修复之《High-Resolution Image Inpainting using Multi-Scale Neural Patch Synthesis》

图像修复问题就是还原图像中缺失的部分。基于图像中已有信息，去还原图像中的缺失部分。从直观上看，这个问题能否解决是看情况的，还原的关键在于剩余信息的使用，剩余信息中如果存在有缺失部分信息的patch，那么剩下的问题就是从剩余信息中判断缺失部分与哪一部分相似。而这，就是现在比较流行的PatchMatch的基本思想。CNN出现以来，有若干比较重要的进展：被证明有能力在CNN的高层捕捉到图像的抽象...

原创 论文阅读《Contextual-based Image Inpainting: Infer, Match, and Translate》

作者研究了图像修复的任务，即用可信的内容填充不完整图像的缺失区域。为此，提出了一种基于学习的方法，在给定具有缺失组件的高分辨率图像的情况下生成视觉上连贯的完成。为了客服直接学习高维图像数据分布的困难，我们将任务分为推理和翻译两个独立的步骤，并用深度神经网络对每个步骤进行建模。我们还使用简单的启发式方法来指导局部纹理从边界到孔的传播。我们表明，通过使用这些技术，修复减少了在更小的空间中学习两个图像特征评议功能的问题，因此更容易训练。我们在几个公共数据集上评估我们的方法，并表明我们生成的结果比以前最先进的方法具

转载 论文笔记《A Style-Based Generator Architecture for Generative Adversarial Networks》

这是NVIDIA的一篇新论文，一个对于GAN（StyleGAN）的基于样式的生成器体系结构，提出了一个新的模型来应对这个挑战。StyleGAN是一步一步地生成人工图像的，从非常低的分辨率开始，一直到高分辨率（1024×1024）。通过分别地修改网络中每个级别的输入，它可以控制在该级别中所表示的视觉特征，从粗糙的特征（姿势、面部形状）到精细的细节（头发颜色），而不会影响其它的级别。这种技术不仅可以...

转载 论文阅读《Progressive Growing of GANs for Improved Quality, Stability, and Variation》

what is GANGAN包含两个网络：Generator和Discriminator（在WGAN中称作Critic）。G由一个laten code（或噪声）生成一个样本，比如图片。而生成的样本应该与真实的样本分布相同或相似。D用来判断这种“分布是否相似”。训练完成的理想状态是G生成的样本与真实样本一样，D不能判断生成的到底是真实的还是假的。而训练过程可以按梯度来指导G与D的优化方向。一般情...

转载 论文阅读《Image Inpainting for Irregular Holes Using Partial Convolutions》

我们的模型可以很好地处理任何形状、大小、位置或距离图像边界任何距离的空白。以前的深度学习方法主要集中在位于图像中心附近的矩形区域，并且通常需要依赖成本很高的后期处理。“英伟达的研究人员在他们的研究报告中写道，“此外，我们的模型能够很好地处理越来越大的空白区域。”为了训练神经网络，研究团队首先生成了55116个随机色条、形状和大小任意的masks，用于训练。他们还生成了25000个图像用于测试。...

转载 论文笔记Globally and Locally Consistent Image Completion

论文笔记Globally and Locally Consistent Image Completion图1 Patch-based方法的示例图Patch-based方法的不足：（1）Depend on low-level features；（2）Unable to generate novel objects；2）基于Context Encoder的图像补全，该方法基于深度学习生成相似的纹理...