机器学习 李宏毅 L28L29-Deep Generative Model

最新推荐文章于 2023-03-17 19:11:04 发布
最新推荐文章于 2023-03-17 19:11:04 发布
阅读量1.1k 收藏 1
点赞数
分类专栏： 机器学习 文章标签： 机器学习
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/guyanbeifei/article/details/79243935
版权
本文介绍了三种深度生成模型：Pixel RNN用于图像和语音生成，VAE通过变分自编码器实现语言生成，并在编码空间中引入噪声，GAN则通过对抗训练生成逼真样本。VAE解释了如何使用高斯混合模型进行概率分布估计，而GAN则通过生成器和判别器的博弈来提升生成质量。
摘要由CSDN通过智能技术生成

生成模型1： Pixel RNN

产生图像时，每次产生一个像素点。也就是，训练一个网络，输入为一个三维的vector，输出为另外一个三维的vector。可以使用Pixel RNN进行图像生成、语音生成等。

如果需要练习，可以提供该课程提供的792个Pokemon突袭那个，图像为20*20大小,数据库地址。实验结果如下图：

ML-LHY-L1-1.PNG

生成模型2： VAE (Variational Autoencoder)

ML-LHY-L1-1.PNG

VAE生成语言，输入为sentence，输出也为sentence。对于输入的数据，在code space上进行等距连接，然后选取稍微偏移的点，进行decode，产生输出数据。这对应了autoencoder的方式，而生成对应了在code space中间加入了噪声，即下图中, m1,m2,m3 m 1 , m 2 , m 3 对应了编码的区间， σ1,σ2,σ3 σ 1 , σ 2 , σ 3 对应了编码的噪声，而指数化则将其转换为正数。

最低0.47元/天 解锁文章
OKgagaga
关注
专栏目录
[机器学习入门] 李宏毅机器学习笔记-18 （Deep Generative Model-part 1：深度生成模型-part 1）
Holeung blog
06-22 5815
[机器学习入门] 李宏毅机器学习笔记-18 （Deep Generative Model-part 1：深度生成模型-part 1） PDF VIDEOCreation 据说在费曼死后，人们在他生前的黑板上拍到如图画片，在左上角有道：What i cannot create ,I do not understand. Generative models,就是在做创造的事情。 Imag
[机器学习入门] 李宏毅机器学习笔记-19 （Deep Generative Model-part 2：深度生成模型-part 2）
Holeung blog
06-25 1914
[机器学习入门] 李宏毅机器学习笔记-19 （Deep Generative Model-part 2：深度生成模型-part 2） PDF VIDEOWhy VAE? 用VAE，从code space上去sample一个code，能得到一个比较好的image，而auto encoder可能得不到。 将code加上了noise，而variance决定了noise的大小，variance是
Deep Generative Model
likyoo的博客
03-16 500
PixelRNN 把逐个像素放入网络中，output为下一个像素 Variational Autoencoder(VAE) 这里要同时Minimize reconstruction error和 为什么要使用VAE而不直接用auto-encoder呢？ 从直觉上来说，VAE相当于在中间的code上家里noise 只minimize 它们的 reconstruction e...
无监督学习：Deep Generative Mode（深度生成模型）
dfql83704的博客
08-11 1668
一 前言 1.1 Creation 据说在费曼死后，人们在他生前的黑板上拍到如图画片，在左上角有道：What i cannot create ,I do not understand. Generative models，就是在做创造的事情。 1.2 Image Processing 二 Generative Models 这是目前的主要方法。 2.1 Pixel...
Deep Generative Model1--VAE
weixin_44607838的博客
10-20 303
1.VAE(Variational auto-encoder) 首先我们思考一下，为什么我们需要VAE? 或者说Auto-encoder有什么问题？首先我们需要明确我们的目标，我们需要的是一个图像生成模型，也就是说在给定维度下的任意一个code，通过decoder都应该产生一张清晰且符合逻辑的图片。但是，仅仅通过auto-encoder类的模型是无法实现任意这一条件的。下面引用李宏毅老师机器学习Deep Generation Model课件中的例子来做解释。 从上面的图中，假如我们使用了一个deep au
李宏毅机器学习--Datawhale202210.zip
04-08
机器学习是一门多领域交叉学科，涉及概率论、统计学、逼近论、凸分析、算法复杂度理论等多门学科。它专门研究计算机怎样模拟或实现人类的学习行为，以获取新的知识或技能，重新组织已有的知识结构使之不断改善自身的...
2021李宏毅机器学习笔记--22 Generative Adversarial Network 01
guoxinxin0605的博客
08-29 628
@[TOC](2021李宏毅机器学习笔记–22 Generative Adversarial Network 01(GAN,生成式对抗网络)) 摘要 GAN是建立于神经网络的基础上的，其核心思想是“生成”与“对抗”，GAN网络结构包含两个模型，一个是生成模型（Generator），另一个是判别模型（Discriminator）。生成模型一般是使用反卷积神经网络或者全连接神经网络，通过输入的数据生成二维图像，而判别模型是一个卷积神经网络二元分类器，它的工作主要是负责判断生成模型所生成的图像是来自数据集的真
【李宏毅2020 ML/DL】P60-61 Unsupervised Learning - Deep Generative Model
记录学习痕迹的公众号：Piper蛋窝
08-05 496
三大模型：PixelRNN 、Variational Auto Encoder(VAE)、Generative Adversarial Network。
台大-李宏毅-B站机器学习视频-课件.zip
09-30
台大-李宏毅-B站机器学习视频-课件.zip台大-李宏毅-B站机器学习视频-课件.zip台大-李宏毅-B站机器学习视频-课件.zip台大-李宏毅-B站机器学习视频-课件.zip台大-李宏毅-B站机器学习视频-课件.zip台大-李宏毅-B站机器...
深度生成模型（Deep Generative Models）
10-26
深度生成模型基本都是以某种方式寻找并表达（多变量）数据的概率分布。有基于无向图模型（马尔可夫模型）的联合概率分布模型，另外就是基于有向图模型（贝叶斯模型）的条件概率分布。前者的模型是构建隐含层(latent)和显示层（visible)的联合概率，然后去采样。
Russ Salakhutdinov - Learning Deep Generative Models.pdf
05-25
Russ Salakhutdinov - Learning Deep Generative Models.pdf
Generative Models
04-10
Goodfellow - Generative Models 深度学习暑期学校2017
Unsupervised Learning - Deep Generative Model (Part I)
Fly嘉
01-16 260
这个图片先说了这一个博客，是一个科普文，这个可以很好的介绍Generative Models。 我们目前做的是让机器识别出哪些是猫还是狗，但是机器可能不知道这个猫是什么。所以未来我们想让计算机画出东西来，例如画出一只猫 Genreative Models有三个方法 例如上面的pixels，一个三维vector代表一个pixel，然后用一个pixel来预测下一个pixel，然后用这个两个pi...
深度生成模型（Deep Generative Model）---生成对抗网络Generative Adversarial Networks（GANs）
weixin_45646640的博客
03-17 716
深度生成模型（Deep Generative Model）---生成对抗网络Generative Adversarial Networks（GANs）
[机器学习入门] 李宏毅机器学习笔记-20 （Deep Generative Model-part 3：深度生成模型-part 3）
Holeung blog
06-26 1650
[机器学习入门] 李宏毅机器学习笔记-20 （Deep Generative Model-part 3：深度生成模型-part 3） PDF VIDEO 上接part 2，VAE从来没有去学习产生一张看起来能以假乱真的image，它所学到的是：它想要产生一张image，跟database的image越接近越好。它不知道的是，我们在衡量它产生的image和database种image的相似度
2020李宏毅学习笔记——45.Unsupervised learning Deep Generative Model(Part I)
weixin_44554337的博客
07-09 293
Deep Generative Model-part 1：深度生成模型-part 1 1.Generative Models 就是致力于让机器自主学习的一些方法，比较有名的有下面几种： PixelRNN Variational Autoencoder(VAE) Generative Adversarial Network(GAN) 什么意思呢？ 现在的机器学习是能够区分猫狗的不同了，但是，机器还是不能准确地画一只猫出来，所以我们现在就generate 一个模型出来。 2.Pixel RNN Pixel R
CS236 Deep Generative Models （1）基础介绍
Nemo的博客
02-23 2168
Generative与Discriminative的区别 一、概念介绍1.1 概念定义1.2Deep Generative Model的三大问题二、基本问题2.1 Naive Bayes for Classification2.1 一般问题三、不同类型的Network3.1 Bayes Net3.2 Neural Models3.3 连续变量的Generative Model 一、概念介绍 1....
李宏毅机器学习HW5-Transformer数据
最新发布
08-11
李宏毅的机器学习课程中提到的HW5（作业5），可能涉及到Transformer模型在自然语言处理任务中的应用。Transformer是一种基于自注意力机制的深度学习模型，最初由Google在2017年提出的BERT（Bidirectional Encoder Representations from Transformers）就是其变种之一。 在HW5的数据部分，学生可能会接触到如何加载和预处理Transformer需要的文本数据，比如常见的英文文本数据集如IMDB电影评论、Twitter情感分析数据，或者是更专业的如WMT机器翻译任务的数据集。他们需要对数据进行分词（Tokenization）、编码（如使用WordPiece或SentencePiece）、填充零（Padding）、切分成训练、验证和测试集等步骤。 此外，可能还会涉及如何配置Transformer模型的结构参数（如头的数量、隐藏层的大小等）、调整优化器和学习率策略，并通过训练过程监控指标如 perplexity 或 BLEU分数来评估模型性能。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值