Unsupervised Learning - Deep Generative Model (Part I)

最新推荐文章于 2021-10-19 21:19:44 发布
最新推荐文章于 2021-10-19 21:19:44 发布
阅读量232 收藏 1
点赞数
分类专栏： 李宏毅 机器学习
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/qq_40981899/article/details/86489124
版权

在这里插入图片描述
这个图片先说了这一个博客，是一个科普文，这个可以很好的介绍Generative Models。
在这里插入图片描述
我们目前做的是让机器识别出哪些是猫还是狗，但是机器可能不知道这个猫是什么。所以未来我们想让计算机画出东西来，例如画出一只猫

在这里插入图片描述
Genreative Models有三个方法

在这里插入图片描述
例如上面的pixels，一个三维vector代表一个pixel，然后用一个pixel来预测下一个pixel，然后用这个两个pixel来预测下一个pixel。PixelRNN是最清晰的
在这里插入图片描述
这个是例子

在这里插入图片描述
还例如WaveNet应用到语音合成这个例子。这个图片有一个动画效果没展示出来

在这里插入图片描述
这个是李宏毅老师做的，创造宝可梦的例子。原图是40×40，进行截取到20×20来训练

在这里插入图片描述
如果只是用pixel来做的话。这样RGB的值会都是差不多，然后就是灰色、棕色。（因为0,255这样的值比较难单独获取，鲜艳的颜色，一般是一个通道的数值会比较突兀，例如绿色（0,255,0））。
然后我们会采取一个做法，就是每个pixel用一个one-hot 变量来表示。但是这样表示太多了，有 25 6 3 256^3 2563种可能。所以我们会有一个聚类来吧相似的聚成一起，这样处理完之后会有167种colors

在这里插入图片描述
就像下面的表示，0、1、2等都会有对应的具体的表示，然后我们做下面的LSTM的实验。

在这里插入图片描述
之前会留有几张machine从来没见过的。然machine来预测cover的图片应该是什么形状

在这里插入图片描述

在这里插入图片描述

在这里插入图片描述
如果是单纯的auto-encoder，就是截取后面的网络，然后随机产生一个vector作为code来传入给NN Decoder

在这里插入图片描述
VAE会在里面NNencoder设置新的输出，NN Encoder输出两个新的数值，再加上一个normal分布产生的 e 1 e_1 e1​、 e 2 e_2 e2​、 e 3 e_3 e3​，来组成新的 c 1 c_1 c1​、 c 2 c_2 c2​、 c 3 c_3 c3​。在损失函数上，不仅Minimize输出和输入还有minimize右下的公式
在这里插入图片描述使用的数据

在这里插入图片描述
创造新的宝可梦。训练好网络之后，在左下的随机选出点来输入到NN Decoder中来产生 C 1 C_1 C1​（图片）

在这里插入图片描述
这个是对应的点输入进来产生的图片

在这里插入图片描述
会发现一个做的还不错的图片

在这里插入图片描述
还有的用来写诗的

Fly嘉
关注
  • 0
    点赞
  • 踩
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
机器学习 -- Unsupervised Learning: Deep Auto-encoder
01-30
Unsupervised Learning: Deep Auto-encoder Auto-encoder Deep Auto-encoder Auto-encoder – Text Retrieval Auto-encoder – Similar Image Search Auto-encoder for CNN CNN -Unpooling CNN - Deconvolution
Unsupervised Part-based Weighting Aggregation
12-10
Unsupervised Part-based Weighting Aggregation of Deep Convolutional Features for Image Retrieval.pdf
Unsupervised Learning - Deep Generative Model (Part II)
Fly嘉
01-17 195
为什么会使用auto-encoder？一个直观的理由是，当训练模型的，当一个满月的图片输入到auto-encoder模型，我们会希望得到一个满月。同理，当是一个半满月的时候，我们希望得到一个半满月的。不过当直接模型预测的时候，月亮介于满月和半满月之间的时候，我们会希望得到一个介于两者之间的图像。但是实际输出往往不是这样。当使用VAE的时候，会有一个noise，当一个满月进去的时候，会在一个范围内...
2020李宏毅学习笔记——45.Unsupervised learning Deep Generative Model(Part I)
weixin_44554337的博客
07-09 270
Deep Generative Model-part 1：深度生成模型-part 1 1.Generative Models 就是致力于让机器自主学习的一些方法，比较有名的有下面几种： PixelRNN Variational Autoencoder(VAE) Generative Adversarial Network(GAN) 什么意思呢？ 现在的机器学习是能够区分猫狗的不同了，但是，机器还是不能准确地画一只猫出来，所以我们现在就generate 一个模型出来。 2.Pixel RNN Pixel R
2020李宏毅学习笔记——45.Unsupervised learning Deep Generative Model(Part II)
weixin_44554337的博客
07-10 370
这节我觉得主要是讲VAE的好处： 1.从原理上来讲 1.1 先看一下VAE经典框架： 1.2 解释这几个参数 可以看到每个encoder分了两个东西σ和m，每个东西三个值，所以相当于对code加上了噪声，相当于code有一定的范围，因此可以在这个范围内生成对应的图片。 1.3 why VAE？ 注意看中间部分，两个图片的code加上噪声之后中间有重叠部分，也就是说这个地方既要可以生成满月，又要生成半月图片，根据输入和输出之间的误差最小的目标，这个位置的图片只能是介于满月和半月之间了。 所以在VAE的模型
李宏毅学习笔记27.Unsupervised Learning.05: Deep Generative Model (Part II)
老毛的博客
01-30 670
文章目录
2020李宏毅学习笔记——46.Unsupervised learning Deep Generative Model(Part III)
weixin_44554337的博客
07-11 134
5.GAN(Generative Adversarial Network)2014年的 适者生存，不断进化 The evolution of generation 这里的Generator没有看过real image，所以它产生的图片是和原有的real image完全不一样的。 GAN-Discriminator的训练 先用Generator生成一些图片，Generator和VAE的decoder结构差不多，输入不同的向量，得到的图片也就不一样，然后和真实图片放在一起。 然后输入到Discriminat
李宏毅学习笔记26.Unsupervised Learning.05: Deep Generative Model (Part I)
老毛的博客
01-18 731
文章目录Generative ModelsPixelRNNVariational Auto Encoder(VAE)Writing Poetry Generative Models 就是致力于让机器自主学习的一些方法， 比较有名的有下面几种： PixelRNN Variational Autoencoder(VAE) Generative Adversarial Network(GAN) 下面大...
【CVPR 2021】Joint Generative and Contrastive Learning for Unsupervised Person Re-identification
Joselynzhao
10-19 1237
方法概述 1，提出了一种用于无监督行人重识别的联合生成对比学习框架，生成和对比模块互相提高对方的性能。 2， 在生成模块中，我们引入了3D网格生成器。 3， 在对比模块，我们提出了一种视角无关的损失，来减少生成样本和原始样本之间的类内变化。 文章目录方法概述内容概要工作概述成果概述方法详解方法框架具体实现实验结果总体评价引用格式参考文献 内容概要 论文名称 简称 会议/期刊 出版年份 baseline backbone 数据集 Joint Generative and Contrastiv.
Towards Unsupervised Deep Image EnhancementWith Generative Adversarial Network借助生成对抗网络实现无监督的深度图像增强
learning5201的博客
04-28 2874
Abstract Improving the aesthetic quality of images is challenging and eager for the public. To address this problem, most existing algorithms are based on supervised learning methods to learn an automatic photo enhancer for paired data, which consis
李宏毅机器学习课程笔记6：Unsupervised Learning - Auto-encoder、PixelRNN、VAE、GAN
junchengberry的博客
07-16 293
李宏毅机器学习课程笔记6：Unsupervised Learning - Auto-encoder、PixelRNN、VAE、GAN 这篇文章是学习本课程第16-18课所做的笔记和自己的理解。 Lecture 16: Unsupervised Learning - Auto-encoder Auto-encoder 在手写...
Unsupervised learning- deformable registration l chest.pdf
12-15
非监督学习图像形变配准是一种在没有标注数据的情况下，通过模式识别和数据分析技术自动学习图像间变形对应关系的方法。在医学成像领域，特别是胸部放射影像分析中，这一技术被广泛应用于检测时间序列间的间隔变化，...
Group-31-W-Net-A-Deep-Model-for-Fully-Unsupervised-Image-Segmentation
04-12
在计算机视觉领域，图像分割是一种基础且重要的任务，它涉及到将图像中的每个像素分配到特定的类别中，以揭示图像的内在结构和细节。近年来，随着深度学习的发展，无监督图像分割技术取得了显著的进步。...
unsupervised-learning-neural-network.rar_unsupervised
07-14
然后，他们选择了一种适合的无监督学习神经网络模型，如变分自编码器（Variational Autoencoder, VAE）或深度信念网络（Deep Belief Network, DBN），对这些数据进行训练。 训练过程中，模型会尝试学习数据的内在...
小清新风工作总结汇报PPT模板.pptx
最新发布
08-04
【作品名称】：述职报告，工作计划，工作总结，计划书，商务计划，转正报告 【适用人群】：适用于希望学习不同技术领域的小白或进阶学习者。可作为毕设项目、课程设计、大作业、工程实训或初期项目立项。
文艺清新述职报告PPT模板.pptx
08-04
【作品名称】：述职报告，工作计划，工作总结，计划书，商务计划，转正报告 【适用人群】：适用于希望学习不同技术领域的小白或进阶学习者。可作为毕设项目、课程设计、大作业、工程实训或初期项目立项。
数字信号处理第四版基于计算机的方法学习资料
08-04
该资源是本人在学习数字信号处理课程过程中对于PPT做的笔记，整理的一些习题。不仅适合平时课程的学习，而且适合考考研云南大学的同学进行全面复习。笔记全面，非常适合学习的时候观看。希望这份学习资料能够帮助到大家。
扬帆起航工作计划工作总结季度报告PPT模板.pptx
08-04
【作品名称】：述职报告，工作计划，工作总结，计划书，商务计划，转正报告 【适用人群】：适用于希望学习不同技术领域的小白或进阶学习者。可作为毕设项目、课程设计、大作业、工程实训或初期项目立项。
Feature Representation Learning for Unsupervised Cross-domain Image Retrieval
05-11
Feature representation learning for unsupervised cross-domain image retrieval refers to the process of extracting meaningful features from images in one domain (e.g., paintings) and using those features to retrieve similar images in another domain (e.g., photographs). This is typically done in an unsupervised manner, meaning that no explicit labels or annotations are provided to guide the learning process. One common approach to unsupervised feature representation learning is to use deep neural networks, such as convolutional neural networks (CNNs), to extract high-level features from images. These features can then be used to train a retrieval model that maps images from one domain to the other based on their similarity in feature space. There are several challenges to unsupervised cross-domain image retrieval, including differences in image content, style, and quality between domains. To address these challenges, researchers have developed a variety of techniques, such as domain adaptation, data augmentation, and adversarial training, to improve the performance of feature representation learning for cross-domain image retrieval. Overall, feature representation learning for unsupervised cross-domain image retrieval is an important area of research with many potential applications, including art history, fashion, and product recommendation.
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值