#DeepLearningBook#算法概览之十：Deep Generative Models

最新推荐文章于 2020-08-06 00:13:08 发布
最新推荐文章于 2020-08-06 00:13:08 发布
阅读量775 收藏 1
点赞数
分类专栏： AI读书笔记 文章标签： 算法 深度学习 玻尔兹曼机
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/Lyrassongs/article/details/53363167
版权

一、Boltzmann Machines

Energy-based model(EBM)具有以下形式：
这里写图片描述
同时，这个形式的分布又是Boltzmann distribution；许多的energy-based models又称为Boltzmann machines。
对Boltzmann machines，它们的联合分布都是结合了一个能量方程的：
这里写图片描述
E(x)是能量方程，Z是配分方程（partition function）。Z负责保证P(x)的求和为1。Boltzmann machine的能量方程表达如下：
这里写图片描述
U指的是状态间的连接强度；x是状态，只能是0和1。BM也是多层网络，包括：input、hide、output。因此状态x可以分成两类，visible units v和latent(hidden) units h。
这里写图片描述

二、 Restricted Boltzmann Machines(RBM)

RBM的用途主要是两种，一是对数据进行编码

最低0.47元/天 解锁文章
咸鱼酱
关注
  • 0
    点赞
  • 踩
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
深度学习的最新研究进展（三）
慧安金科的博客
09-25 2384
本文我们将简要讨论其他深度架构，它们使用与深度神经网络类似的多个抽象层和表示层，也称为深度生成模型（deep generate Models，DGM）。Bengio（2009）解释了深层架构，例如Boltzmann machine（BM）和Restricted Boltzmann Machines（RBM）及其变体等。 Goodfellow等（2016）详细解释了深度生成模型，如受限和非受限的玻...
2020李宏毅学习笔记——45.Unsupervised learning Deep Generative Model(Part I)
weixin_44554337的博客
07-09 268
Deep Generative Model-part 1：深度生成模型-part 1 1.Generative Models 就是致力于让机器自主学习的一些方法，比较有名的有下面几种： PixelRNN Variational Autoencoder(VAE) Generative Adversarial Network(GAN) 什么意思呢？ 现在的机器学习是能够区分猫狗的不同了，但是，机器还是不能准确地画一只猫出来，所以我们现在就generate 一个模型出来。 2.Pixel RNN Pixel R
CS236 Deep Generative Models （2）
Nemo的博客
02-24 837
Autoregressive Model(1) 先对传统的FVSBN，NADE，RNADE等模型进行介绍； 然后介绍了Pixel CNN和Pixel RNN等模型原理； 贯穿始终的是，Autoregressive Model的建模过程。 参考CS236的PPT
cs224w 图神经网络 学习笔记（十）Deep Generative Models for Graphs
喵木木的博客
08-06 1774
课程链接：CS224W: Machine Learning with Graphs 课程视频：【课程】斯坦福 CS224W: 图机器学习 (2019 秋 | 英字) 目录
深度生成模型（Deep Generative Models）
10-26
深度生成模型基本都是以某种方式寻找并表达（多变量）数据的概率分布。有基于无向图模型（马尔可夫模型）的联合概率分布模型，另外就是基于有向图模型（贝叶斯模型）的条件概率分布。前者的模型是构建隐含层(latent)和显示层（visible)的联合概率，然后去采样。
nips14-ssl:NIPS 2014 论文“Semi-Supervised Learning with Deep Generative Models”结果复现代码
06-28
NIPS'14-SSL 使用深度生成模型重现我们的 NIPS 2014 论文关于半监督学习 (SSL) 的一些关键结果的代码。 DP Kingma、DJ Rezende、S. Mohamed、M. Welling 具有深度生成模型的半监督学习神经信息处理系统的进展 27 ...
Russ Salakhutdinov - Learning Deep Generative Models.pdf
05-25
Russ Salakhutdinov - Learning Deep Generative Models.pdf
AT-GAN:A Generative Attack Model译文
04-24
对《AT-GAN:A Generative Attack Model for Adversarial Transferring on Generative Adversarial Nets》进行了翻译，便于研究
A Tutorial on Deep Probabilistic Generative Models
08-20
该文档是Machine Learning Summer School Buenos Aires, Argentina June 2018关于深度概率生成模型的讲义。
总结 | 四篇图网络综述文章提出的Future Directions
haoji007的博客
11-24 530
A Comprehensive survey on Graph Neural Networks 1. 网络加深（Go Deep） 深度学习的成功在于深度神经架构。例如在图像分类中，ResNet模型有152层。 然而，当涉及到图结构时，实验研究表明[147]，随着层数的增加，模型性能显著下降。这可能是因为图卷积使得相邻结点的表示更加相似，因此理论上，在无限次卷积的情况下，所有结点的表示都...
[机器学习入门] 李宏毅机器学习笔记-20 （Deep Generative Model-part 3：深度生成模型-part 3）
Holeung blog
06-26 1629
[机器学习入门] 李宏毅机器学习笔记-20 （Deep Generative Model-part 3：深度生成模型-part 3） PDF VIDEO 上接part 2，VAE从来没有去学习产生一张看起来能以假乱真的image，它所学到的是：它想要产生一张image，跟database的image越接近越好。它不知道的是，我们在衡量它产生的image和database种image的相似度
Deep Learning：Optimization for Training Deep Models(一)
蚊子爱牛牛的博客
10-26 691
How Learning Differs from Pure Optimization
深度学习与生成式模型
热门推荐
Solomon1558的专栏
09-12 1万+
Main points 阐述生成式模型的求解目标（联合分布），应用方式（判别、生成分布的样本）。 阐释深度学习与生成式模型的关系； 调研深度学习在生成式模型方面的发展，分类阐述（求解方法）； 相较于传统生成式模型，深度生成式模型的特点、优势； Outline： 1. 生成式模型的定义[wiki]（joint probability distribut
斯坦福CS236-深度生成模型2019-全套课程资料分享
lqfarmer的博客
08-31 882
生成模型广泛应用于人工智能和机器学习的许多子领域。关于深度生成模型参数训练的最新进展是使用随机优化的方法，使得能够对包括图像、文本和语音在内的复杂高维数据进行可伸缩的建模。本课程将研究深度生成模型的概率基础和学习算法，包括变分自动编码器(VAE)、生成对抗网络(GAN)、自回归模型和标准化流模型（Normalizing flow models）。本课程还将讨论从深度生成模型中获益的应用...
[卷积神经网络]课程：Deep convolutional models习题解析
云水木石
05-25 3562
这是<<卷积神经网络>>课程第二周的习题，一共10道。 从课程给出的众多卷积神经网络示例上看，卷积通常是减少宽高尺寸，增加通道数，比如： 答案为选项3 同样，经典的卷积神经网络通常是几个卷积层后面带一个池化层，接近输出的地方再加上全连接层，所以选择选项1和3 池化层用于减少宽/高，卷积层填充也有避免图像缩小过快的原因，但问题出在题目中的only，卷积...
课程笔记——Unsupervised Learning：Deep Generative Model
mintminty的博客
06-23 503
Generative Models PixelRNN Variational Autoencoder(VAE) 变分自编码器 Generative Adversarial Network(GAN) 生成对抗网络 1.PixelRNN 1.1 原理 假设目标为让计算机自己画出3*3的图片，做法： 随机给一个图(橘色) 训练一个模型RNN(输入可为可变长度)，输入：橘色，输出：设定的图(蓝色) ...
CS236 Deep Generative Models （3）
Nemo的博客
02-24 375
自回归模型-2 概述一、Maximum Likelihood Learning（MLL）1.1 Learning的背景1.2 距离度量二、Bayesian Network MLL2.1 Learning parameters2.2 Overfitting三、小总结 概述 在自回归模型-1中，只介绍了怎么建模会带有Autoregressive的特性，即pθ(x)p_\theta(x)pθ​(x)，而...
DeepLearning.ai笔记:(4-2)-- 深度卷积网络实例探究（Deep convolutional models:case studies）
Fangzh的技术博客
10-09 370
title: ‘DeepLearning.ai笔记:(4-2)-- 深度卷积网络实例探究（Deep convolutional models:case studies）’ id: dl-ai-4-2 tags: dl.ai categories: AI Deep Learning date: 2018-10-09 17:17:04 首发于个人博客:fangzh.top，欢迎来访 本周主要...
Github项目推荐-图神经网络(GNN)相关资源大列表
数智物语
04-25 6042
文章发布于公号【数智物语】（ID：decision_engine），关注公号不错过每一篇干货。 转自 | AI研习社 作者｜Zonghan Wu 这是一个与图神经网络相关的资源集合。相关资源浏览下方Github项目地址，再点击对应链接跳转下载。 01 Github项目地址： https://github.co...
InternVideo: General Video Foundation Models via Generative and Discriminative Learning
最新发布
06-04
InternVideo 是一种基于生成学习和判别学习相结合的通用视频基础模型。该模型旨在通过学习视频的生成过程和判别视频的真实性来建立对视频的全面理解。具体来说，InternVideo 包括两个阶段：生成阶段和判别阶段。...

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值