CausalVAE: Disentangled Representation Learning via Neural Structural Causal Models

简介

这篇论文我觉得最大的贡献是把因果关系、因果模型引入到解耦表征领域，使得解耦的潜变量z具有可解释性；对z加一个的扰动可以反映到VAE网络生成图像的对应物理量上。

贡献：1）我们提出了一个新的框架CausalVAE，支持因果分离和do-operation；2） 给出了模型可辨识性的理论证明；3）我们对合成的和真实的人脸图像进行了综合实验，以证明所学习的因素具有因果语义，并且可以被干预以生成不出现在训练数据中的反事实图像。

实验

以钟摆实验为例说明：

上左图为训练的钟摆图像，它包含4个因素：1光源位置、2摆钟角度、3影子位置、4影子长度，上右图对应其因果关系图，即1、2为因，3、4为果，那么就希望网络如果调整1、2对应的latent code可以影响到3、4，反之则不行。

看一下实验效果：

a为CausalVAE，b为ConditionVAE，前4行分别设置1、2、3、4对应的$z_i$，为生成图像，最后一行为输入原始图像。CausalVAE的优势主要体现在后两行，论文也讲ConditionVAE可以看作消融版本。这个效果可能光源太大？看着有点不舒服，不过效果还是有的。

CelebA数据集效果图：

其对应的因果结构图如下，解读就不解读了，跟上面一样：

其后对A可视化出来效果，这是CelebA数据集的，颜色由浅到深从0到1，可以看到A的改变过程逐渐接近真实的A(这里可能需要看完全文再回过来再看)：

另外还有两个指标MIC和TIC：

网络结构图：

可以看作在VAE的隐变量空间嵌入了因果结构模型，就$ϵ$ 、$z$ 、$A$围住的三角形这里，把隐变量解耦再用decoder生成图像。emmm…也不严谨。

causal layer

作者在论文中也讲到，这部分的思想主要就是借鉴Shohei Shimizu, Patrik O Hoyer.A linear non-gaussian acyclic model for causal discovery, 2006.这篇文章，这个模型简称：线性非高斯无环模型(LiNGAM)，该模型基于 SEM (Structural Equation Modeling)的因果模型，查阅资料就会发现SEM在金融、管理、社科等领域用的非常多，所以如下图这样的模型很常见，它就是建立各个因素之间的因果关系。

LiNGAM 对系统的数据生成方式做了线性假设和非高斯独立噪声的假设，并利用独立成分分析（ICA，independent component analysis）进行求解。线性非高斯无环模型要求三个基本的前提条件：

1. 观测变量之间是存在因果顺序的，后续变量不会导致前序变量；这些变量可以用一个DAG（有向无环图）表示。
2. 变量间的因果关系是线性的，可以用如下公式描述：$$x_i=\sum _{k(j)<k(i)}{b}_{i,j}$$