李宏毅——Flow-based Generative Model

最新推荐文章于 2024-04-25 09:07:23 发布
最新推荐文章于 2024-04-25 09:07:23 发布
阅读量4k 收藏 14
点赞数 1
分类专栏： 李宏毅
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/shaoyue1234/article/details/102464867
版权

李宏毅——Flow-based Generative Model

导语

已经介绍的生成模型

在这里插入图片描述
之前的生成模型的问题
component-by-component问题：什么是最好的顺序；生成的慢
VAE问题：优化的是lower bound，不是最终的目的
GAN问题：训练不稳定

在这里插入图片描述
generator的问题
G是一个网络，定义了一个概率分布
比如：z是来自于Normal Distribution，但是得到了p是个其他的分布
我们希望这个Pg和真实数据的分布越接近越好
可以用最大似然函数的方式让它接近。
在这里插入图片描述
Pg通常比较复杂，可以用flow-based model来直接优化目标。
在这里插入图片描述

数学背景

jacobian Matrix

右下角表示两者的关系。
在这里插入图片描述

Determinant

在这里插入图片描述
determinant的含义：高维空间中的体积
在这里插入图片描述

change of Variable Theorem

z的分布是上图，z的分布是下图
探究他们之间的关系，就是研究generator
在这里插入图片描述
例子：z的分布是这样的
x=2z+1，那么px的分布是下面这样的。
p(x）=1/2*pie(z)
在这里插入图片描述
在更复杂的情况下：
在deltaz的情况下，因为非常小，可以视为uniform的分布。
蓝色方块和绿色方块有相同的面积。
要加绝对值，因为dz/dx可能为正也可能为负
在这里插入图片描述
在二维的情况下
在这里插入图片描述
在这里插入图片描述

flow-based generative model

假设做image的生成，输入的z也应该是1001003的，但是不能保证G可逆，G的能力是有限的。
在这里插入图片描述
一个G不够，可以加更多吗？
在这里插入图片描述
如何训练呢？
训练时，训练G-1，实际生成时使用G。
pie是Normal分布，所以使得zi最小，值最大。但是如果z总是0的话，JG-1就总是0，后面的项就会非常大
在这里插入图片描述
使用coupling layer，被用在两个知名的flow-base模型NICE和NVP中
把z拆成两组，前d维和后面的部分，x的前d维等于z的前d维直接复制过去。
用一个functionF把前d维变化成后面的维数，另一个function也变成后面的维数
在这里插入图片描述
求inverse也比较简单，看红线就知道
在这里插入图片描述
求jacobian的determinant可以看图，非常巧妙。
左上角的是I，右上角，因为浅绿色和浅蓝色的没有关系，所以是0，左下角的没意义，因为求determinant时右上角是O，可以视为左上角和右下角的乘积。右下角的是对角线的。
因为只有对角线的有关系，其他的没有关系。
在这里插入图片描述
把coupling layer叠起来，编程一个完整的网络
但是有个问题，如果前半段如果都是直接复制的话，等于最终什么都没有做。
所以要做一些手脚，比如下面的做法。
在这里插入图片描述
如果做的是图像的生成的话，拆法有两种，一是根据横轴和纵轴来分，二是根据层来拆。
在这里插入图片描述
或者用convolution的方法，比如GLOW。
w可以shuffle不同的channel。w可以视为一个G。
在这里插入图片描述
在这里插入图片描述
得到的jacobian是下面的
在这里插入图片描述
demo
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
glow的更多做法
语音合成
在这里插入图片描述

shaoyue1234
关注
  • 1
    点赞
  • 踩
  • 14
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
流模型(Flow-based Model)
禅与计算机程序设计艺术
07-12 969
流模型(Flow-based Model) Flow-based Generative Models. 本文目录： 流模型的结构 流模型的优化目标 流模型的各种变体 使用
生成模型之Flow-Based model
Miracle Fan的博客
12-07 1126
​ Flow-Based对概率密度函数的直接建模，这使得它们在数据生成和推断方面具有优势，并且在潜在空间中的操作更加直观。
LeetCode的基础入门（非常详细）零基础入门到精通，收藏这一篇就够了
Libra1313的博客
04-25 1187
关于LeetCode都需要了解哪些？Python语法reduce(lambda x,y:x * y,ns) # 数组之乘积 (ns[0] * ns[1]) * ns[2]reduce(lambda x,y:x + y,ns) # 数组之和# 记忆化搜索# 大根堆# 过滤函数# 除数# 不可变str 常见函数strip([chars]) # 去除首末两端的字符, 默认是 \r,\n," "replace(old, new[, count]) # 字符串替换, old to new。
李宏毅机器学习课程４~~~分类：概率生成模型
jiandanjinxin的专栏
07-30 1138
分类问题用回归来解决？当有右图所示的点时，这些点会大幅改变分类线的位置。这时候就会导致整体的回归结果变差。当把多分类当成回归问题，类别分别为1，2,3,4……，因为回归的问题是预测具体的值，这样定义类别就默认这些数据之间有相应的关系。如果数据间没有具体的这些数字关系，就会导致最后的回归结果变差。概率生产模型对比学习见 李宏毅机器学习课程12~~~半监督学习 概率生成模型概率生成模型示例假设所有采样点
【机器学习】李宏毅——Flow-based Generative Models
FavoriteStar的博客
09-21 837
本文主要介绍了Flow-based Generative Models的概念，以及其内部各个模块的主要思想，可结合我之前写过的生成模型的博客共同阅读。
生成网络之Flow-based Generative Model
litt1e的博客
08-24 1036
最近看关键点论文时发现，可以使用Flow-based生成网络去模拟生成真实潜在误差概率分布，从而增加Regression-based信息获取，大幅提高Regression-based方法的AP。为了真正搞懂这篇论文，我详细了解了Flow-based Generative Model的相关知识，并记录在这里，有不对的地方还请大佬指点。
【原版】流模型 Flow 超详解，基于 Flow 的生成式模型，从思路到基础到公式推导到模型理解与应用（Flow-based Generative Model）
m0_56942491的博客
02-28 1508
既然得到了 π of z 和 p of x 之间的关系，我们再回到刚刚的目标函数上，因此我们就可以对目标函数进行变换：由：以及之前推导出的核心公式，可得：进行变量替换再取 log，得：由此便得到了我们最终需要最大化的式子，也就是目标函数。可以计算 det(J_G)：我们知道了生成器 G，理论上知道了 z 怎么变成 x 就很容易计算其雅可比矩阵的行列式。
第三十六节 Flow-based Generative Model
Reast1nPeace的博客
09-09 330
李宏毅机器学习--Datawhale202210.zip
04-08
机器学习是一门多领域交叉学科，涉及概率论、统计学、逼近论、凸分析、算法复杂度理论等多门学科。它专门研究计算机怎样模拟或实现人类的学习行为，以获取新的知识或技能，重新组织已有的知识结构使之不断改善自身的...
Deep Learning Tutorial by 李宏毅 (Hung-yi Lee)
03-13
目前看过的最清晰、最通俗易懂、最完整解读深度学习知识的讲义，来自台大李宏毅 (Hung-yi Lee)教授，千万不要错过~~
李宏毅HW1-covid.train.csv
最新发布
06-18
李宏毅HW1-covid.train.csv
李宏毅-Generative Adversarial Network
12-18
李宏毅-Generative Adversarial Network PPT 视频教学
Flow-based Generative Model
Jony0917的专栏
06-01 248
A generator G is a network.The network defines a probability distribution pGp_GpG​z∼π(z)z \sim \pi(z)z∼π(z)x=G(z)∼pG(x)x = G(z) \sim p_G(x)x=G(z)∼pG​(x)pG(x)=π(z)∣det(JG−1)∣p_G(x) = \pi(z)|det(J_{G^{-1}})|pG​(x)=π(z)∣det(JG−1​)∣G∗=argmaxG∑i=1mlogpG(xi), {x
生成模型（二）：基于流的生成模型（Flow-based Generative Model）【少用】
u013250861的博客
12-22 2266
给定一个将n维输入向量\mathbf{x}映射到m维输出向量的函数，\mathbf{f}: \mathbb{R}^n \mapsto \mathbb{R}^m，这个函数的所有一阶偏导的矩阵被称为Jacobian矩阵，\mathbf{J}，其中第i行和第j列是\mathbf{J}_{ij}= \frac{\partial f_i}{\partial x_j}。IAF打算在\tilde{\mathbf{x}}已知的情况下估计\tilde{pi}(\tilde{\mathbf{z}})的概率密度函数。
An introduction to Generative Adversarial Networks (with code in TensorFlow)
omnispace的博客
06-04 1822
There has been a large resurgence of interest in generative models recently (see this blog post by OpenAI for example). These are models that can learn to create data that is similar to data that we
李宏毅机器学习笔记.Flow-based Generative Model(补)
老毛的博客
11-02 787
文章目录引子生成问题回顾：GeneratorMath BackgroundJacobian MatrixDeterminant 行列式Change of Variable Theorem简单实例一维实例二维实例网络G的限制基于Flow的网络构架G的训练Coupling LayerCoupling Layer反函数计算Coupling Layer Jacobian矩阵计算Coupling Layer Stacking1×1 ConvolutionGLOW效果其他工作 原视频见油管https://www.you
【人工智能的数学基础】随机变量的变量替换定理(Change of Variable Theorem)‘
禅与计算机程序设计艺术
06-26 4828
若随机变量X∈RX \in \Bbb{R}X∈R的概率密度函数为pX(x)p_X(x)pX​(x)，对于变量替换Y=f(X)∈RY=f(X) \in \Bbb{R}Y=f(X)∈R，其中f(⋅)f(\cdot)f(⋅)是严格单调函数，且导数f′(⋅)f'(\cdot)f′(⋅)存在，则随机变量YYY的概率密度函数为:pY(y)=pX(f−1(y))⋅∣∇yf−1(y)∣ p_Y(y) = p_X(f^{-1}(y))\cdot |\nabla_y f^{-1}(y)| pY​(y)=pX​(f−1(y))⋅
变量变换定理 THE CHANGE OF VARIABLES FORMULA
qq_46401672的博客
05-20 3068
变量变换公式是基于单变量微积分中的u-替换，或者更准确地说是基于“逆替换”： 有定积分：
flow的理论背景
林宋的搬砖流水账
05-08 1512
生成模型 生成模型的本质是希望能够拟合一个概率分布，深度神经网络可以拟合任何的函数，但是不能拟合任何的概率分布，因为概率分布有非负性和归一性的本质。这样，直接能写的分布只有离散分布和连续的高斯分布。 从严格意义讲，图像是由有限个像素组成的，每个像素的取值也是离散的，有限的，因此可以通过离散分布来描述图像的分布，pixel RNN就是基于这个思路做的，“自回归流”的思路。缺点是无法并行，计算量很大...
李宏毅transformer
09-01
＊＊＊器学习专家，他在度学习领域有很高的声誉。他在2017年的一节课中首次介绍了Transformer模型，这是一种基于自注意力机制的深度学习模型。...李宏毅的讲解和解读对于理解Transformer模型起到了重要的推动作用。

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值