NIPS2018深度学习(29)|亮点:可逆卷积流模型;条件GANs;高斯过程先验变分自编码(论文及代码)...

最新推荐文章于 2024-09-14 17:06:42 发布
最新推荐文章于 2024-09-14 17:06:42 发布
阅读量1.1k 收藏 2
点赞数
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/hestendelin/article/details/101546818
版权
本文介绍了NIPS2018会议上关于深度学习的三项研究：Glow模型利用可逆1x1卷积改进流式生成；RCGAN展示了对条件GAN在噪声标签下的鲁棒性；GPPVAE引入高斯过程作为变分自编码器的先验，以捕捉样本间的相关性。各方法在多个数据集上表现出色。
摘要由CSDN通过智能技术生成

[1] Glow: Generative Flow with Invertible 1×1 Convolutions

Diederik P. Kingma, Prafulla Dhariwal

OpenAI, Google AI

https://papers.nips.cc/paper/8224-glow-generative-flow-with-invertible-1x1-convolutions.pdf

流式生成模型(Dinh et al. 2014)在概念上具有吸引性，有以下几个原因，它能处理精确的对数似然度，能处理精确的隐变量推理，还可以并行处理训练和合成。

这篇文章提出了Glow，这是一种简单的生成式流式模型，该模型利用可逆的1×1卷积。这种方法在基准数据集上在对数似然度方面取得了显著的提升。令人吃惊的是，流式生成模型利用一般的对数似然度目标优化时，可以高效地合成和变换近似真实的大图片。

基于似然度的方法可以分为以下三类

640?wx_fmt=png

基于流的生成方法具有以下特性

640?wx_fmt=png

本文所提模型图示如下

640?wx_fmt=png

本文所提流的三个主要组成部分，逆以及对数行列式统计如下

640?wx_fmt=png

三种方法的效果对比如下

最低0.47元/天 解锁文章
frank_hetest
关注
GraphNVP | 用于分子图生成的可逆流模型
DrugAI
11-21 2256
分子生成 具有理想药理特性新分子的发现是计算药物发现中的关键问题。传统上，这项任务是通过临床合成候选化合物并对其进行实验来完成的。但是，由于化学空间是巨大的，合成分子并对其进行广泛的实验是非常耗时的任务。从头设计药物不是在分子中寻找具有所需特性的空间，而是设计具有我们感兴趣特性的新化合物。 事实证明，深度学习的最新进展，尤其是深度生成模型在从头药物设计中具有不可估量的价值。 分子表征 将深...
MoFlow：生成分子图的可逆流模型
qiqi985的博客
03-01 1136
ACM SIGKDD | MoFlow: An Invertible Flow Model for Generating Molecular Graphs 今天给大家介绍ACM SIGKDD的一篇文章，“MoFlow: An Invertible Flow Model for Generating Molecular Graphs”。文章提出一种新的基于流的深度图生成模型MoFlow，用于分子图的生成，是第一个不仅可以一次通过可逆映射有效地生成分子图，而且还具有化学有效性保证的流模型。 1、研究背景 深图
5大AI生成模型详解（四）Flow 流模型、Diffusion Model
最新发布
m0_56255097的博客
09-14 1218
与传统的生成模型，如VAE、GAN相比，它通过模拟数据由随机噪声逐步扩散至目标数据的过程，实现数据生成。总结：通过对GAN、VAE、Flow、Diffusion和AR这五种常见生成模型的分析比较，VAE和GAN是深度生成模型的基础模型，前者倚重贝叶斯概率理论，后者则基于对抗训练策略。在你已经掌握了大模型技术之后，就需要开始准备面试，我们将提供精心整理的大模型面试题库，涵盖当前面试中可能遇到的各种技术问题，让你在面试中游刃有余。学习AI大模型是一个系统的过程，需要从基础开始，逐步深入到更高级的技术。
MoFlow 项目教程
gitblog_00088的博客
06-23 418
MoFlow 项目教程 moflow 项目地址: https://gitcode.com/gh_mirrors/mof/moflow 1. 项目目录结构及介绍 MoFlow 项目的目录结构如下： moflo...
GMVAE（GAUSSIAN MIXTURE VARIATIONAL AUTOENCODERS）高斯混合变分自编码器公式推导
上帝是个娘们的博客
06-12 4779
GMM 高斯混合模型： p(x)=∑zp(z)p(x∣z)=∑k=0K−1πkN(x∣μk,σk) \begin{aligned} p(x) = &\sum_{z}p(z)p(x|z) \\ = &\sum_{k=0}^{K-1} \pi_{k}N(x|\mu_{k}, \sigma_{k}) \end{aligned} p(x)==​z∑​p(z)p(x∣z)k=0∑K−1​πk​N(x∣μk​,σk​)​ 其中∑kπk=1，z是一个K维的one−hot向量，p(zk=1)=πk\sum_
Deconvolution（逆卷积）
热门推荐
玄云飘风的博客
04-08 2万+
Deconvolution的一些用途： 在ZF-Net中用于对feature map做可视化：https://arxiv.org/abs/1311.2901 在FCN中用于生成等于原图shape的图像：https://arxiv.org/abs/1411.4038 autoencoder中用于解码器：https://docs.microsoft.com/en-us/cognitive-toolk...
用循环一致变分自动编码器解开变分因素
用循环一致变分自动编码器解开变分因素Ananya Harsh Jha1、Saket Anand1、Maneesh Singh2和VSR Veeravasarapu21印度理工学院-德里{ananyaharsh12018，anands}@ iiitd.ac.inVerisk Analyticsmaneesh. verisk.com， vs...
潜在空间的跨模态对齐变分自编码器用于广义零激发学习中的图像分类
18247潜在空间通过对齐的变分自编码器的Edg arSc hönfeld1SaynaEbrahimi2SamarthSinha3Trev orDarrell2ZeynepAkata41Bosch Center for AI2 UC Berkeley3 University of Toronto4 University ofAmsterdam摘要广义零...
条件图像合成的连续对抗生成流模型 CAGlow
7992用于可控图像合成的刘瑞1刘宇1龚新宇2王晓刚1李洪生11香港中文大学-商汤科技联合实验室2德州农工大学ruiliu@cuhk.edu.hkgong@tamu.edu{yuliu，xgwang，hsli}@ ee.cuhk.edu.hk摘要基于流的生成模型由于其可逆的...
解开3D：从单目图像学习的三维生成模型
1516解开3D：从单目图像学习具有解纠缠几何和外观的三维生成模型Ayush Tewari1，2 Mallikarjun B R1 Xingang Pan1 Ohad Fried3Maneesh Agrawala4 Christian Theobalt11马克斯·普朗克信息学研究所2MIT3跨学科中心，...
【CV】卷积和逆卷积（转置卷积）详解
Danger的博客
01-23 3729
【CV】卷积和逆卷积（转置卷积）详解
Python-GlowGenerativeFlowwithInvertible1x1Convolutions的实现代码
08-11
Glow: Generative Flow with Invertible 1x1 Convolutions的实现代码
NIPS2018深度学习(27)|亮点:对话推荐;协同坐标卷积;可逆卷积生成网络;(论文及代码)...
hestendelin的专栏
06-17 1148
[1]An intriguing failing of convolutional neural networks and the CoordConv solution...
卷积（Convolution）（二）
weixin_49346755的博客
10-24 1973
通常情况下，对图像进行卷积运算时，经过多层的卷积运算后，输出图像的尺寸会变得很小，即图像被约减。而对于某些特定的任务（比如：图像分割、GAN），我们需要将图像恢复到原来的尺寸再进行进一步的计算。这个恢复图像尺寸，实现图像由小分辨率到大分辨率映射的操作，叫做上采样（Upsample），如下图所示。上采样有多种方式，常见的包括：最近邻插值（Nearest neighbor interpolation）、双线性插值（Bi-Linear interpolation）等，但是这些上采样方法都是基于人们的先验经验来设计
深度学习-逆卷积神经网络ConvTranspose2d
Vivinia的博客
10-31 1801
卷积神经网络Conv2d是对图片进行下采样，图片越来越小，而逆卷积神经网络ConvTranspose2d是对图片进行上采样，图片越来越大，卷积与逆卷积是互相对应的。 首先，不管stride等于几，卷积公式都为，逆卷积公式为（注意这个p和s是对应的卷积操作的p和s）。 1.当stride=1时： 卷积操作： 由图片得知，i=4，o=2，k=3，s=1，p=...
可逆神经网络的研究及其在图像中应用
qq_44111805的博客
03-11 7116
可逆神经网络(INN)自被提出以来，就受到了广泛关注。由于其双射构造和高效可逆性，INN被用于各种推理任务，如图像隐藏、图像重缩放、图像着色、图像压缩和视频超分辨率等等。本文针对最新关于INN在图像方面应用的文献进行介绍，包括每篇文献的基本原理和个人理解。最后对所介绍的文献进行总结，指出各自的优缺点并对未来INN在图像方面应用展开思考。
一文详解卷积和逆卷积
给永远比拿愉快
11-10 1万+
文章目录一文详解卷积和逆卷积卷积运算单通道多通道卷积运算的参数计算逆卷积卷积运算的矩阵实现参考资料 一文详解卷积和逆卷积 卷积神经网络（CNN）在计算机视觉大放异彩，入门CNN的第一步就是理解什么是卷积（Convolution）运算。本文旨在以通俗易懂的方式让读者理解卷积的概念。 注：本文的图片素材全部来源于网络，如有侵权，请联系作者删除。 卷积运算 卷积在数学上是两个变量在某范围内相乘后求和的结...
Glow: Generative Flow with Invertible 1×1 Convolutions翻译
nopSled
04-23 847
摘要
深度卷积神经网络学习（一）
wo0wbt28的博客
09-20 509
卷积神经网络的基础模块为卷激流包括卷积（用于维数拓展）、非线性（洗属性、饱和、侧抑制）、池化（空间或特征类型的聚合）和批量归一化（优化操作，目的是为了加快训练过程中的收敛速度，同事避免陷入局部最优）等四种操作。下面简单介绍这四种操作。 1、卷积：利用卷积核对输入图像进行处理，可以得到鲁棒性较高的特征。 数字信号处理中常用的卷积类型包括三种，即Full卷积、same卷积和vaild卷积。卷积流中...
NIPS 2020强化学习：基于模型方法的最新论文研究
资源摘要信息:"2020年NIPS（神经信息处理系统大会）中关于模型基础强化学习（Model-Based Reinforcement Learning, MBRL）的论文集合。本套资料主要围绕强化学习中一个重要的研究方向——模型基础强化学习，提供了多...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值