机器学习-白板推导系列笔记（三十三）-流模型

此文章主要是结合哔站shuhuai008大佬的白板推导视频：流模型_27min

全部笔记的汇总贴：机器学习-白板推导系列笔记

一、简介

流模型是一种比较独特的生成模型，它选择直接直面生成模型的概率计算，也就是把分布转换的积分式（$P_G(x)={\int }_{z}P(x|z)P(z)dz$）给硬算出来。相比较其他的生成模型采用优化上界或采用对抗训练的方式去避开概率计算，从而寻找近似逼近真实分布的方法，流模型选择的是通过变换Jacobian行列式来求解。

流模型有一个非常与众不同的特点是，它的转换通常是可逆的。也就是说，流模型不仅能找到从A分布变化到B分布的网络通路，并且该通路也能让B变化到A，简言之流模型找到的是一条A、B分布间的双工通路。当然，这样的可逆性是具有代价的——A、B的数据维度必须是一致的。

二、Normalizing Flow

Assuming：

$$\begin{gathered} x=f(z),z,x\in {\mathbb{R}}^p \\ z\sim P_z(z),x\sim P_x(x) \end{gathered}$$
f is continuous invertible
因为，${\int }_z{P}_z(z)dz=1={\int }_x{P}_x(x)dx$
所以，