![](https://img-blog.csdnimg.cn/20201014180756916.png?x-oss-process=image/resize,m_fixed,h_64,w_64)
深度学习
文章平均质量分 65
Even丶666
记录学习(python,深度学习,点云)
展开
-
GAN 生成对抗网络 10-10 Evaluation
最生成数据进行评估可以人来看,但是需要一些客观的方法。传统的方法可以使用likelihood,但是使用GAN,我们无法计算概率。我们可以用generator来生成多组数据,用GMM模型来拟合生成的数据,可以用最大似然来估计参数,进而得到概率。一个较客观的评估方法是:拿一个train好的神经网络,拿一个image classifier,如果输出概率越高,可能说明产生的图片足够清晰。但是上述方法可能是不够的,比如我们训练的Generator只能生成一张同样的图,这不是我们想要的,因此我们引入di原创 2021-09-08 11:31:18 · 138 阅读 · 0 评论 -
GAN 生成对抗网络 10-9 improving sequence generation by GAN
使用RL来增强seq2seq modelchat-bot在与人的互动中逐渐变强。比如人跟机器说How are you?机器回答bye bye,我们会给他一个很低的分数。如果我们跟机器说hello,机器回一个hi,我们会给他一个较高的分数。人来代替discriminator使得reward值最大。在实际应用中不会有人跟chat-bot互动那么多次,因此有人想出用alpha go来训练chat-bot训练两个chat-bot使用discriminator代替人,即给Di...原创 2021-09-08 10:29:45 · 129 阅读 · 0 评论 -
GAN 生成对抗网络 10-8 Intelligent Photo Editing
现在的问题是,输入一个向量会生成一张图片,但是我们不知道向量长什么样子。我们可以使用GAN+AutoEncoder来解决这个问题。即在向量前面加一个Encoder,由于Encoder和Discriminator很像,所以可以使用Discriminator来初始化Encoder。注意Generator(Decoder)是训练好的,固定不动。做完这件事情之后,我们可以把database中的图片拿出来,放到Encoder中,可以得到vector。比如我们要将短发生成长发,我们可以这样做:先把长发的图片..原创 2021-09-07 16:09:27 · 93 阅读 · 0 评论 -
GAN生成对抗网络 10-7 feature extraction
一、infoGAN事实上,我们使用GAN进行训练的时候,输入一个向量,输出一幅图片,当我们改变向量的某个维度时,生成的图片也会发生某种变化。但是这种变化是没有固定规律的。我们希望像上图中左图一样,沿着纵轴变化,由绿色变为黄色再变为橙色后变为蓝色;但事实上会像右图一样没有固定规律。infoGAN解决这个问题infoGAN在原来GAN的基础上,输入的向量z分成两个向量,比如输入的z是20维,那么两个向量分别为10维;将它们输入Generator,得到output x,将x输入classifer,预测c原创 2021-09-07 15:32:53 · 122 阅读 · 2 评论 -
GAN 生成对抗网络 10-6 Tips for improving GAN
在二分类问题中,使用JS散度是不合适的,因为图像的性质,PG和Pdata是不可能重叠的,不重叠的情况下计算出的JS散度永远是log2,所以上图中第一个图和第二个图没有区别,因此在二分类问题中会出现训练困难的问题。tips1 LSGAN问题:绿色点为real data,蓝色点为generated data。可能会出现一个状况,如果二分类器训练的太好(即蓝色为0,绿色为1),使用sigmoid函数进行训练会出现训练困难的问题,因为在0处梯度几乎为0。这样generator想把蓝色的点往右移发现会移不动..原创 2021-09-07 11:47:03 · 116 阅读 · 0 评论 -
GAN生成对抗网络 10-5 fGAN:General Framework of GAN
fGAN说的是我们不仅可以用JS divergence,还可以用f divergence。f有两个要求:1.凸函数,2.f(1)=0.原创 2021-09-06 20:49:42 · 398 阅读 · 0 评论 -
GAN 生成对抗网络 10-4 Theory behind GAN
我们之前的课程中学习的生成人脸,x是一个高维空间的向量,为了方便表示,我们使用二维。实际上每一个图片都有一个distribution,可能落在图中区域,生成人脸的概率大,落在其他区域生成人脸的概率小。这节课我们的任务是寻找这个分布distribution。在有GAN之前,我们是怎么找到这个distribution的呢?我们使用的是最大似然估计。给出一个data distribution Pdata(x),我们只能取数据,但是不知道该分布的参数是什么。现在我们有一个含参数的分布PG(x,θ),参数.原创 2021-09-06 17:49:04 · 111 阅读 · 0 评论 -
GAN生成对抗网络10-3 unsupervised conditional generation
如果input和output差不过,可以使用direct transformation 的方法。如果差很多,则需要一个encoder和一个decoder。1.direct transformation比如要做图像风格迁移(input和output比较像),Domain X为原始图片,DomainY为画像(即要生成图片的类型),那么先把Domain X的图像经过Generator,生成图片,然后将生成图片送入Discriminator(该Discriminator见过大量Domain Y的图片),..原创 2021-09-05 22:33:54 · 102 阅读 · 0 评论 -
GAN生成对抗网络10-2 Conditional GAN
一、Conditional GAN之前讲到的GAN是随机输入一个向量,会产生一张图片。conditional GAN讲的是,可以输入一行文字,产生对应文字的图片,即可以控制输出的结果。比如我们要train一个模型,输入文字,会输出对应图片。用传统的方法来train,即上图,将文字输入一个神经网络,输出一副图像,使得与真实图像像素之间距离足够近。那么这样的模型可能会输入多张同类图片的平均,比如火车有很多张, 朝前的火车,朝后的火车,生成这样的图片都是正确的,但是生成它们的平均就有问题了,生成的图片是原创 2021-09-05 21:03:37 · 249 阅读 · 0 评论 -
GAN 生成对抗网络10-1
GAN的种类一、basic idea of GANGAN主要用于生成数据,如图片数据和文本。如图片生成,我们需要训练一个generator,使得输入一个向量,会输出一张图片,输入不同向量会输出不同图片;文字生成同理。generotor是一个neural network。输入向量的每个值,实际上是一个特征,更换向量的值,图片的某种特征会随着改变。比如上图,第一个向量可能代表头发的长度,倒数第二个向量可能代表头发的颜色,最后一个向量可能代表张开嘴巴的大小。在我们训练generator的原创 2021-09-05 20:08:33 · 184 阅读 · 0 评论 -
深度学习-少量自定义数据集实现迁移学习
本文将预训练的resnet18网络,使用少量pokemon数据集实现迁移学习,在此过程中使用visdom进行数据集和训练过程的可视化。本文代码主要分为两部分:1.加载自定义数据集(数据预处理,给对应类定义标签);2.迁移学习。import torchimport torch.nn as nnimport torch.nn.functional as Fimport os,glob #os用于读取文件,glob用于写入文件路径,注意是路径!!不是图片本身(大量图片会使内存爆炸,因此使用路径,再转换为原创 2021-02-03 11:31:12 · 471 阅读 · 4 评论 -
深度学习之pytorch实现resnet
以下为resnet块的结构(图来源于网络),该结构可以很好的解决梯度消失问题。该文章采用CIFAR10数据集,运用pytorch框架来实战resnet18分类器。代码:#1.准备数据集import torchimport torch.nn as nnimport torch.nn.functional as Ffrom torchvision import datasetsfrom torchvision import transformsfrom torch.utils.data imp原创 2021-01-29 13:32:14 · 362 阅读 · 0 评论 -
pytorch学习【训练分类器】
说明:此博客内容来源于pytorch官方文档英文版,链接:pytorch.org对于计算机视觉,我们已经创建了一个名为torchvision的包,该包含有支持加载类似Imagenet、CIFAR10,MNIST等公共数据集的数据加载模块torchvision.datasets和支持加载图像数据转换模块torch.utils.data.DataLoader.对于本教程,我们使用公共数据集CIFAR10,它包含10个类别:airplane、automobile、bird、cat、deer、dog、frog、翻译 2020-09-30 17:43:05 · 225 阅读 · 0 评论