李宏毅 ML2021 学习笔记 - W6 Generative Model

最新推荐文章于 2023-09-26 09:18:38 发布
最新推荐文章于 2023-09-26 09:18:38 发布
阅读量282 收藏
点赞数
分类专栏： 李宏毅ML2021
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/irontiger65/article/details/118607076
版权

目录

1. 生成式对抗网络

1. Network as Generator

1.1. 为什么需要输入一个分布？

1.2. Unconditional generation

2. Theory behind GAN

2.1. Objective

2.2. 如何计算两个distribution之间的divergence？

2.3. Discriminator

3. 训练GAN的技巧

3.1. WGAN

 4. generator效能评估与条件式生成

4.1. Evaluation of GAN

4.2. Conditional Generation

 4.3. Unpaired Data

2. 其他generative model

1. VAE

1.1. Auto-encoder

 1.2. VAE

1.3. Why VAE? 

1.4. Gaussian Mixture Model

1.5. Problems of VAE

2. Flow-based model

1. 生成式对抗网络

1. Network as Generator

1.1. 为什么需要输入一个分布？

1.2. Unconditional generation

generator把一个简单的distribution对应到一个复杂的distribution

2. Theory behind GAN

2.1. Objective

找一个Generator，使得生成数据的分布与目标数据的分布越接近越好

2.2. 如何计算两个distribution之间的divergence？

→ 只要能够从两个distribution中sample data，就可以估测divergence → Discriminator

2.3. Discriminator

*熵和交叉熵公式：

Entropy=\mathbb{E}_{x\sim P}[-log(P(x))]

Cross Entropy=\mathbb{E}_{x\sim P}[-log(Q(x))]

其中maximum objective value与JS divergence相关 

直觉上，两个分布接近（small divergence）时，判别器难以区别数据，V(D,G) 的最大值较小

 也可以使用其他divergence，需要重新定义objective function（ref: FGAN)

3. 训练GAN的技巧

3.1. WGAN

JSdivergence的问题：

对于没有重叠的distributions， JS divergence算出来都是log2，training loss不能给很多资讯

更直观来说，如果两个distribution不重叠，做binary classifier时正确率总是可以达到100%

 → Wasserstein distance

求解 \max_{D\in1-Lipschitz}{E_{y\sim P_{data}}[D(y)]-E_{y\sim P_{G}}[D(y)]}，解得的值就是Wasserstein distance

实作中的一些方法：

 4. generator效能评估与条件式生成

4.1. Evaluation of GAN

  • Diversity-Mode Collapse

generator抓到discriminator的盲点。（还没有解决）（可以记录train point）

  • Diversity-Mode Dropping （还没有本质上的解决）

 Inception Score

用inception network量一下quality和Diversity

  • Frechet Inception Distance （FID）（越小越好）

拿Inception network 进入softmax之前的HiddenLayer的输出，假设分布是Gaussian

  •  To learn more

4.2. Conditional Generation

例如：Text to image

训练的时候只有positive和negative example出来的结果并不会很好，还需要一种不好的情况是好的图片 + 不匹配的标签，实做会打乱图片和标签

 

 4.3. Unpaired Data

例如：风格转换

理论上，没有办法保证输入和输出很接近。举一个极端的例子，G_{x\rightarrow y}可以学到翻转图片，G_{y \rightarrow x}可以学到再次翻转图片，所以cycle consistency并没有办法保证机器不会学到一些奇怪的转换。但是在实做上，通常输入输出很接近，即使没有使用cycle gan的结构。

2. 其他generative model

1. VAE

1.1. Auto-encoder

 1.2. VAE

exp(\sigma)表示variance，因为variance总是正值所以用exp

σ=0的时候 exp(\sigma)-(1+\sigma) 最小，exp(\sigma)=1 → variance为1，所以minimize这个值让variance不能太小。m_i^2是L_2 Regularization，为了避免模型overfitting

1.3. Why VAE? 

加入noise后，又因为variance不会太小，红点所在位置会同时对应到满月和半月 ，但因为要满足mean square error，所以会生成介于满月半月之间的月亮。

1.4. Gaussian Mixture Model

 Even though z si from N(0,I), P(x) can be very complex

为了estimate\mu (z),\sigma (z), 我们maximize Likelihood: L=\sum logP(x)

 所以

 

maximizeq(z|x)的时候，P(x)与其无关所以不会变，所以KL divergence会越来越小。最后q(z|x)和p(z|x)越来越接近 

 所以，要minimize KL(q(z|x)||P(z))，就是让q(z|x)接近标准正态分布，也就是黄框里的式子

 另外，要maximize第二项

1.5. Problems of VAE

2. Flow-based model

芦边湖泊
关注
专栏目录
2021李宏毅机器学习笔记--22 Generative Adversarial Network 01
guoxinxin0605的博客
08-29 644
@[TOC](2021李宏毅机器学习笔记–22 Generative Adversarial Network 01(GAN,生成式对抗网络)) 摘要 GAN是建立于神经网络的基础上的，其核心思想是“生成”与“对抗”，GAN网络结构包含两个模型，一个是生成模型（Generator），另一个是判别模型（Discriminator）。生成模型一般是使用反卷积神经网络或者全连接神经网络，通过输入的数据生成二维图像，而判别模型是一个卷积神经网络二元分类器，它的工作主要是负责判断生成模型所生成的图像是来自数据集的真
2021李宏毅机器学习笔记--18Unsupervised Learning -- Neighbor Embedding
guoxinxin0605的博客
08-07 552
2021李宏毅机器学习笔记--18 Unsupervised Learning -- Neighbor Embedding 摘要一、Manifold Learning(流形学习)二、Locally Linear Embedding(LLE,局部线性嵌入)三、Laplacian Eigenmaps(拉普拉斯特征映射)3.1 简介二级目录二级目录四、总结二级目录三级目录 摘要 wijw_{ij}wij​ wiw^iwi 本节是进行非线性降维的一些算法。包括局部线性嵌入LLE、拉普拉斯特征映射和t分布随
【机器学习】李宏毅——Flow-based Generative Models
FavoriteStar的博客
09-21 1120
本文主要介绍了Flow-based Generative Models的概念，以及其内部各个模块的主要思想，可结合我之前写过的生成模型的博客共同阅读。
GANs学习系列(6):条件生成式对抗网络Conditional Generative Adversarial Networks
热门推荐
Focusing on your own Mind :) －> 站在巨人的肩膀上
11-30 3万+
【前言】      本文首先介绍生成式模型，然后着重梳理生成式模型（Generative Models）中生成对抗网络（Generative Adversarial Network）的研究与发展。作者按照GAN主干论文、GAN应用性论文、GAN相关论文分类整理了45篇近两年的论文，着重梳理了主干论文之间的联系与区别，揭示生成式对抗网络的研究脉络。  本文涉及的论文有：  [1] Goodfe
条件生成CGAN-李宏毅课程笔记
hn_lgc的专栏
09-26 741
生成图片，图片属于高维空间，也就是高维空间的一个分布，生成图片就是拟合图片的分布函数，从中选取一个是图片概率最大的点。拟合分布用最大释然估计或者叫最小化KL散度这类的方法。成图片的研究最早在80年代就有人在做了，但是当时神经网络没这么流行，用高斯分布之类的来拟合分布，效果不好。如下图，GAN这里就是用NN构成的generator来生成一个数据分布，其概率密度为Pg，然后Pg与Pdata足够接近，基于NN的强大拟合能力，生成的图像就能足够逼真。 ...
深度学习算法中的生成式对抗网络中的条件生成（Conditional Generative Adversarial Networks）
牛肉胡辣汤
09-26 107
智能体使用深度Q网络来近似值函数，并通过经验回放的方式进行训练。在训练过程中，智能体根据当前状态选择动作，与环境交互，并将经验存储到经验回放缓冲区中，然后从缓冲区中随机采样一批数据进行训练。请注意，这只是一个简单的示例代码，实际应用中可能需要根据具体问题和环境进行调整和优化。在训练过程中，智能体根据当前状态选择动作，与环境交互，并将经验存储到经验回放缓冲区中，然后从缓冲区中随机采样一批数据进行训练。​，其中状态空间为4，动作空间为2，智能体需要根据当前状态进行动作选择，并根据环境给予的奖励来更新策略。
CGAN论文翻译---Conditional Generative Adversarial Nets
WonderKing'blog
03-10 4157
GAN是最近训练生成模型方法中很新颖的一种方式。在此基础上，我们提出了一种需要输入训练数据和标签y的条件GAN。CGAN能生成MNIST数据集类似的图片。我们还说明了该模型可以用于学习多模态模型，并提供了一个用于图形标签的应用程序的初步实例，在这个示例中，我们演示了这个方法如何生成不属于训练标签的描述性标签。
2021李宏毅机器学习笔记--11 explainable ML
guoxinxin0605的博客
06-19 411
2021李宏毅机器学习笔记--11 explainable ML摘要一、局部可解释性1.1 基本思想1.2 移除组成要素1.3 改变组成要素1.4 局限性1.5 实例（pokemon vs digimon）二、全局可解释性2.1 反向寻找理想输入2.2 输入正则化三、用模型解释模型3.1 使用线性模型3.2 使用决策树总结 摘要 可解释性分为两种，一种是局部可解释性，一般指的是机器说明如何判断这个样例(例如分类问题中，机器如何将一张猫的图片分成猫)；另一种是全局可解释性，一般指的是机器如何对总体进行特征判断
2021李宏毅机器学习笔记--12 attack ML models
guoxinxin0605的博客
06-26 345
2021李宏毅机器学习笔记--12 attack ML models摘要一、图像模型的攻击1.1原理1.2Constraint1.3参数训练1.4一个例子1.5攻击方法1.5.1FGSM(Fast Gradient Sign Method)1.6黑盒攻击1.7拓展研究1.7.1普遍对抗攻击(Universal Adversarial Attack)1.7.2对抗性重新编程(Adversarial Reprogramming)1.8真实世界的攻击二、声音模型的攻击三、defense3.1被动防御3.1.1fe
2021李宏毅机器学习笔记--10 Semi-supervised learning
guoxinxin0605的博客
06-13 453
2021李宏毅机器学习笔记--10 Semi-supervised learning摘要一 、生成模型上的半监督学习二 、Low-density Separation非黑即白2.1 自学习2.2 熵正则化2.3 半监督SVM三 、 Smoothness Assumption平滑假设四 、Better Representation总结 摘要 半监督学习主要是利用少量的标注样本和大量的未标注样本进行训练和分类，让学习器不依赖外界交互，能自动的利用未标记样本来提升学习性能，并且有助于降低标注代价。半监督学习往往
李宏毅机器学习笔记第14周_生成式对抗网络(GAN)
peaunt1的博客
07-16 953
GAN
【GAN的Generator效能评估与条件式生成&Cycle GAN】——基于李宏毅2021春机器学习课程
Dylan's Blog
01-01 1914
GAN Generator效能评估 GAN的训练需要齐头并进，一旦一方不在进步，则另一方也无法再进步。 Quality of Image 借助一个影像分辨系统，来分辩由Generator产生的图片，最终产生一个P(c|y)几率分布，如果P越集中，意味着看系统看到的图片大多数是同一类的图片，则Generator产生的效果越好 Diversity—Mode Collapse（模型崩溃） 只集中产生某种图像的，导致最终结果会有很多重复。原因就是Generator找到Discriminator一个盲点，只要产
论文笔记：Doamin Adaptation——JGSA
xueliang
05-11 961
论文笔记：JGSA论文论文解读JGSA伪代码总结 论文 Jing Zhang, Wanqing Li, and Philip Ogunbona. 2017. Joint geometrical and statistical alignment for visual domain adaptation. In Proceedings of the IEEE Conference on Computer Vision and Pattern Recognition (CVPR’17). 论文解读 Joint
李宏毅——Flow-based Generative Model
shaoyue1234的专栏
10-09 4206
李宏毅——Flow-based Generative Model导语已经介绍的生成模型数学背景jacobian MatrixDeterminantchange of Variable Theoremflow-based generative model 导语 已经介绍的生成模型 之前的生成模型的问题 component-by-component问题：什么是最好的顺序；生成的慢 VAE问题：优化的...
机器学习 李宏毅 L28L29-Deep Generative Model
okgagaga的博客
02-02 1175
生成模型1： Pixel RNN 产生图像时，每次产生一个像素点。也就是，训练一个网络，输入为一个三维的vector，输出为另外一个三维的vector。可以使用Pixel RNN进行图像生成、语音生成等。 如果需要练习，可以提供该课程提供的792个Pokemon突袭那个，图像为20*20大小,数据库地址。实验结果如下图： 生成模型2： VAE (Variational Aut
2020李宏毅机器学习笔记-Generative Adversarial Network - Theory behind GAN
zn961018的博客
08-07 641
目录 摘要 1. Theory behind GAN 2. Maximum Likelihood Estimation 3.MLE=Minimize KL Divergence 4. Generator 5. Discriminator 6. GD Algorithm for GAN 7. Algorithm for GAN（Review） 结论与展望 摘要 从某种意义上来讲, GAN 图片生成任务就是生成概率分布。因此, 我们有必要结合概率分布来理解 GAN 生成对抗网络的原理。在.
李宏毅2021机器学习笔记——GAN
Alex_SCY的博客
08-06 1157
GAN_P1 Generation Network as Generator 接下来要进入一个,新的主题 我们要讲生成这件事情 到目前為止大家学到的network,都是一个function,你给他一个X就可以输出一个Y 我们已经学到各式各样的,network架构,可以处理不同的X 不同的Y 我们学到输入的X 如果是一张图片的时候怎麼办 如果是一个sequence的时候怎麼办 我们也学到输出的Y 可以是一个数值 可以是一个类别 也可以是一个sequence 接下来我们要进入一个新的主题,这个新的主题
tf.distributions.kl_divergence()用法
qq_39894692的博客
11-20 2716
来源：https://tensorflow.google.cn/api_docs/python/tf/distributions/kl_divergence tf.distributions.kl_divergence(     distribution_a,     distribution_b,     allow_nan_stats=True,     name=None ) KL散度...
生成式对抗网络
wkywcd的博客
08-31 596
目录一、Network as Generator1、为什么要distribution?二、Generative Adversarial Network（GAN）1、Unconditional generation（1）Discriminator辨识器(2)Basic Idea of GAN(3)Generator VS Discriminator三、GAN的理论1、Divergence怎么计算2、Discriminator怎么训练3、GAN训练的小技巧(1)JS divergence有什么问题(2)WGAN
李宏毅ml2021spring hw3
最新发布
10-03
李宏毅ML2021春季课程的第三个作业是一个关于自然语言处理任务的实践项目。这个作业涵盖了文本分类、情感分析和命名实体识别等主题。 学生们的任务是使用提供的数据集，通过实现机器学习算法，对文本进行分类和情感...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值