论文分享CausalVAE: Disentangled Representation Learning via Neural Structural Causal Models

于 2024-06-14 10:03:07 发布
阅读量1.6k 收藏 13
点赞数 24
分类专栏： 深度学习入门 文章标签： 深度学习 人工智能
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/qq_53536373/article/details/139662842
版权

【AI Drive】CVPR 2021 | CausalVAE：引入因果结构的解耦表征学习_哔哩哔哩_bilibili

目标1  学习到的表征 是具有唯一性的 ，是可以被识别的
根据真实情况设置，代表真实的物理情况，引入结构因果模型，为了表征可识别 引入监督信号
2 在因果表征中实现 do operation 
什么是 do operation   对隐表征能进行干预的时候，因果效应可以传递到子节点
通过干预可以让模型生成一些反事实的图片
3 在现实场景中 因果图 不一定是直接given的  让 模型自动的发现场景中的因果关系

深入浅出搞懂VAE-CSDN博客

摘要：

学习解纠缠的目的是寻找由观测数据的多个解释因素和生成因素组成的低维表示。变分自编码器(VAE)的框架通常用于从观测中分离独立因素。然而，在实际场景中，具有语义的因素并不一定是独立的。相反，可能存在一种潜在的因果结构，使这些因素相互依赖。因此，我们提出了一个新的基于VAE的框架CausalVAE，其中包括一个因果层，将独立的外生因素转换为因果内生因素，对应于数据中因果相关的概念。我们进一步分析了模型的可辨识性，表明从观测中学习的模型在一定程度上恢复了真实模型。在各种数据集上进行了实验，包括合成和真实单词基准CelebA。结果表明，使用CausalVAE学习到的因果表示具有语义可解释性，其因果关系作为一个有向无环图(DAG)被很好地识别。此外，我们证明了所提出的CausalVAE模型能够通过对因果因素的“do-operation”生成反事实数据。

1引言

解纠缠表示学习在计算机视觉、语音和自然语言处理等各种应用中都具有重要意义，推荐系统Hsu等人[2017]、Ma等人[2019]、Hsieh等人[2018]。原因是它可以通过学习数据的潜在解纠缠表示来帮助提高模型的性能，即提高对对抗性攻击的泛化能力、鲁棒性和可解释性。解开表示学习最常见的框架之一是变分自动编码器 (VAE)，这是一种经过训练以解开潜在解释因素的深度生成模型。通过 VAE 的解纠缠可以通过潜在因素后验与标准多元高斯先验之间的 Kullback-Leibler (KL) 散度的正则化项来实现，该正则化项强制学习到的潜在因素尽可能独立。如果现实世界中的

最低0.47元/天 解锁文章
CausalVAE: Disentangled Representation Learning via Neural Structural Causal Models
CRDarwin的博客
07-18 2993
简介 causal模块理解 作者在论文中也讲到，这部分的思想主要就是借鉴Shohei Shimizu, Patrik O Hoyer.A linear non-gaussian acyclic model for causal discovery, 2006.这篇文章，这个模型简称：线性非高斯无环模型(LiNGAM)，是因果关系里面比较成熟的方法了。 编码的e size为[64,16] z的size为[64，4，4] 标签经过mask后的size为[64，4，1] 参考资料 https://zhuanla
CausalVAE： Disentangled Representation Learning via Neural Structural Causal Models笔记
weixin_43560804的博客
05-15 1253
CausalVAE:使用因果关系对表征进行解耦
因果发现31种高效经典方案汇总，附配套算法和代码
学姐带你玩AI的博客
11-23 4459
是一个复杂的过程，其目标是从大量的数据中确定变量之间的因果关系。这个过程通常涉及到的是如何从纷繁复杂的数据中发现其中隐含的因果关系。有时，研究者可以通过随机实验进行干预来发现因果关系，但由于开销、道德考虑等原因有时无法进行这样的实验，通常只有观测数据，而缺乏干预数据。因此，如何有效地进行因果发现，成为了一个非常具有挑战性的问题。目前，有许多研究者正在努力开发新的方法。而在已有的方法中，也有许多成果很值得我们学习。我这次就帮大家整理了。方法原文及源码需要的同学看文末。
CausalVAE
qq_37246721的博客
05-28 1516
题目：CausalVAE: Disentangled Representation Learning via Neural Structural Causal Models（通过结构因果模型实现接纠缠表征学习） 作者：Mengyue Yang 一、研究动机 1.目标概念往往是有因果关联的 2.无监督过程不能保证习得的表征能被识别 二、研究目标 1.习得解纠缠表征 2.实现do操作（干预）和反事实 3.自动习得因果图 三、技术方法 1.通过VAE实现因果解纠缠 （1）Transforming Indepe
Disentangled Representation Learning GAN for Pose-Invariant Face Recognition
09-16
2017CVPR人脸识别文章Disentangled Representation Learning GAN for Pose-Invariant Face Recognition
【论文阅读笔记】NeurIPS2020文章列表Part1
热门推荐
zincrain的博客
12-09 2万+
A graph similarity for deep learning An Unsupervised Information-Theoretic Perceptual Quality Metric Self-Supervised MultiModal Versatile Networks Benchmarking Deep Inverse Models over time, and the Neural-Adjoint method Off-Policy Evaluation and Learning.
CVPR 2021最全论文开放下载！附pdf下载链接！
中科院AI算法工程师的博客
06-18 1万+
CVPR 2021最全论文开放，附所有pdf下载链接！
paper2:Disentangled Representation Learning GAN for Pose-Invariant Face Recognition 2017 cvpr
eveglow
03-08 749
用于姿态不变人脸识别的DR-GAN网络 ------Disentangled Representation Learning GAN for Pose-Invariant Face Recognition 2017 cvpr 一．摘要 背景： 人脸图像之间的较大的姿态差异是人脸识别一个关键的挑战。在神经网络中，同一个人的两张姿态差异很大的图片所学习到的特征表示也不一样。仅仅角度不同，学习到特征...
人脸识别"Disentangled Representation Learning GAN for Pose-Invariant Face Recognition"
cv_family_z的博客
09-06 1万+
人脸姿态的变化是人脸识别的难点，一般的姿态不变的人脸识别方法是人脸正面化，或者从非正脸的图片中学习特征。论文提出Disentangled 表示学习-生成对抗网络。有三个特征，1）生成器的编码-解码结构使得DR-GAN学习generative和discriminative的表示，2）通过提供到解码器的姿态编码和鉴别器的姿态估计，学到的特征表示与其他的人脸变形disentangled。3）DR-GAN可
人脸生成 Look across Elapse: Disentangled Representation Learning and Photorealistic Cross-Age Face
Janspiry
12-14 670
Look across Elapse: Disentangled Representation Learning and Photorealistic Cross-Age Face Synthesis for Age-Invariant Face Recognition Motivation 现有的跨年龄识别技术可以分为两种： 直接提取与年龄无关的特征进行识别 生成某个年龄的人脸，后进行匹配 作者认为这两个任务一起进行比较合适，可以互相利用信息。 Contribution 主要提出人脸不变模型Age-I
【论文阅读笔记】4篇Disentangled representation learning用于图像分割的论文
寸先生的AI道路
01-17 4172
4篇应用解耦表示学习的文章，这里只关注如何解耦，更多细节不关注，简单记录一下。
MyDLNote - Detection : 2019 CVPR 使用解耦表示（Disentangled Representation）学习的罕见事件检测
u014546828的博客
08-22 3988
CVPR 2020 Rare Event Detection using Disentangled Representation Learning Ryuhei Hamaguchi, Ken Sakurada, and Ryosuke Nakamura National Institute of Advanced Industrial Science and Technology (AIST) {ryuhei.hamaguchi, k.sakurada, r.nakamura}@aist.go.j
TimeDRL: Disentangled Representation Learning for Multivariate Time-Series
weixin_45731480的博客
05-09 235
在许多现实世界的应用程序(例如，医疗保健和工业)中，多变量时间序列数据信息丰富，但由于缺乏标签和高维，具有挑战性。最近在自监督学习方面的研究已经显示了它们在不依赖标签的情况下学习丰富表征的潜力，但它们在学习解纠缠嵌入和解决归纳偏差问题(例如，变换不变性)方面存在不足。为了解决这些挑战，我们提出了TimeDRL，这是一个通用的多元时间序列表示学习框架，具有解纠缠的双层次嵌入。TimeDRL具有三个新特征:(i)使用[CLS]令牌策略从修补的时间序列数据中分离出时间戳级和实例级嵌入的派生;
[CVPR2019]Disentangled Representation Learning for 3D Face Shape
wrk226的博客
01-26 451
这篇文章处理的主要问题就是将3D人脸分解成形状和表情特征。现有的处理方法大都是基于欧几里得表示的线性方法，但是事实上面部变化的特征并不是线性的，因此本文提出了一种基于非线性的表示表情和面部形状的方法。这个方法是基于图卷积网络的。 整体流程如图所示，分为两个部分：decomposition network和fusion network decomposition network就是为了把表情和形状特征分离开来。这里用了一个VAE的结构，形状分支出来的就是只留有形状的表示，而没有表情的。表情分支出来的就
DR-GAN：Disentangled Representation Learning GAN for Pose-Invariant Face Recognition论文解读
我的博客有点东西
02-15 7896
写在之前：初看这篇论文，觉得很惊艳，很巧妙，非常值得细读和动手实践，本人调通的Pytorch代码也会在后面详解。 另一篇更具有新颖性的人脸特征变换的论文是FaceID-GAN。附我的FaceID-GAN论文解读 摘要 在人脸识别领域，两张脸之间的大角度差异是一个关键的挑战。。论文提出一种能学到一种和姿势无关的人脸特征，将脸部的pose信息从特征中分离出去，这样用于人脸识别的特征提取就能适用于...
论文笔记（一）【 Disentangled Representation Learning GAN for Pose-Invariant Face Recognition】
daydayjump的博客
07-07 1万+
论文地址：论文 大体分为两部分，第一部分是自己读文章时的记录，第二部分是自己总的感想。 一、论文概述： 1、在摘要中提出了DR-GAN的名字，给出了论文的三个创新点。 （1）通过generator 的encoder-decoder框架学习了生成和判别的表示（representation）； （2）这种表示是从姿态这种人脸变量得出。姿态（pose）代码传输到decoder，姿态的估计（es...
阅读笔记之《DisenQNet: Disentangled Representation Learning for Educational Questions》
qq_43481435的博客
10-20 2297
《DisenQNet: Disentangled Representation Learning forEducational Questions》 DisenQNet:教育问题的解偶表示学习 来源 数据挖掘领域顶会ACM Knowledge Discovery and Data Mining（KDD） 作者 Zhenya Huang（中国科学技术大学） 研究动机/背景（Motivation） 1.教育问题的基本表示学习是在线学习系统领域中的一个基本问题，它可以用于如问题的难度分析、相似度分析等应用： 如
Disentangled Representation：IVIF
weixin_43690932的博客
11-13 1536
解纠缠好难呀！
URI Template variables for request 解决方案
最新发布
03-14
<think>嗯，用户问的是如何使用URI Template变量来构建请求URL的解决方案。首先，我需要回忆一下URI Template是什么，我记得它是一种用来描述URL中可变部分的语法，比如在路径或查询参数中使用变量。用户可能是在使用某种HTTP客户端库，比如Spring的RestTemplate或者Axios，需要动态替换URL中的某些部分。 先看看用户提供的引用内容。引用[1]提到了Spring的RestTemplate，引用[3]是Axios的例子。所以用户可能是在这两种框架中遇到问题，或者是想了解通用的解决方案。需要结合这些引用来回答。 URI Template变量通常用于RESTful API的调用中，动态替换资源路径中的参数。比如，GET /users/{userId}，这里的{userId}就是一个变量，需要替换为具体的值。在Spring的RestTemplate中，可以使用exchange方法或者getForObject，并传递一个包含变量的Map。比如： restTemplate.getForObject("http://example.com/users/{userId}", User.class, "123"); 这里的第三个参数就是替换{userId}的值。如果有多个变量，可以按顺序传递参数，或者使用Map来指定变量名和值的对应关系。例如： Map<String, String> params = new HashMap<>(); params.put("userId", "123"); restTemplate.getForObject("http://example.com/users/{userId}", User.class, params); 这样，URL中的{userId}会被替换为123。需要确保变量名和Map中的键一致。 另外，引用[3]中的Axios示例是发送POST请求，但用户的问题是关于URI变量的。Axios中处理URL参数通常使用params配置，或者在URL字符串中直接替换。比如： axios.get('/api/users/${userId}', { params: { // 查询参数 } }) 不过这里可能需要使用模板字符串，或者Axios的URL构建功能。比如使用ES6的模板字符串： const userId = 123; axios.get(`/api/users/${userId}`) 但这样不是URI Template的标准方式，而是JavaScript的字符串插值。对于更复杂的替换，比如路径中的多个变量，可能需要手动处理，或者使用库来解析URI Template。 另外，用户可能还关心如何在查询参数中使用变量。例如，/search?q={query}&page={page}。在RestTemplate中，可以使用UriComponentsBuilder来构建URL，自动处理编码和替换： UriComponentsBuilder.fromUriString("http://example.com/search") .queryParam("q", "{query}") .queryParam("page", "{page}") .buildAndExpand(params) .toUri(); 这里的params是一个包含query和page键的Map，buildAndExpand会替换对应的变量，并处理URL编码。 还需要考虑变量的编码问题，比如空格或特殊字符是否需要转义。使用UriComponentsBuilder会自动处理这些编码，而手动拼接URL可能出错。 总结一下，解决方案包括： 1. 使用框架提供的URI模板功能，如RestTemplate的getForObject或exchange方法，传递变量参数。 2. 使用UriComponentsBuilder来构建带有路径和查询参数的URL，处理编码。 3. 在Axios中，可以通过模板字符串或手动拼接URL，但需要注意编码问题。 4. 确保变量名称与参数中的键匹配，避免替换错误。 用户可能需要具体的代码示例，比如在Spring和Axios中的不同实现方式。需要参考用户提到的引用中的RestTemplate和Axios的例子，给出相应的代码片段，并解释变量替换的部分。 另外，用户可能还想知道如何处理多个变量，或者变量出现在URL的不同位置（路径和查询参数），这时候可能需要分开处理，或者使用更高级的构建工具。 最后，生成相关问题的时候，可以问如何动态处理查询参数，或者如何编码URI变量，或者比较不同框架中的实现方式。</think>### 如何通过 URI Template 变量构建动态请求 URL #### 1. URI Template 的基本概念 URI Template 是一种通过占位符动态替换 URL 路径或参数的语法，例如 `http://example.com/users/{userId}`。变量通过大括号 `{}` 标记，支持路径变量和查询参数动态替换。 --- #### 2. 在 Spring RestTemplate 中的实现 Spring 的 `RestTemplate` 提供内置支持，通过 `getForObject`、`exchange` 等方法直接使用 URI Template 变量。 ##### 示例代码 ```java // 单个变量替换 String url = "http://example.com/users/{userId}"; User user = restTemplate.getForObject(url, User.class, "123"); // 多变量替换（使用 Map） Map<String, String> params = new HashMap<>(); params.put("userId", "123"); params.put("role", "admin"); String url = "http://example.com/users/{userId}/roles/{role}"; User user = restTemplate.getForObject(url, User.class, params); ``` ##### 高级用法：`UriComponentsBuilder` 通过 `UriComponentsBuilder` 实现更灵活的 URL 构建，包括路径和查询参数： ```java UriComponents uri = UriComponentsBuilder .fromUriString("http://example.com/search") .queryParam("q", "{query}") .queryParam("page", "{page}") .encode() .buildAndExpand(Map.of("query", "spring", "page", "2")); String finalUrl = uri.toUriString(); // 输出：http://example.com/search?q=spring&page=2 ``` 此方法自动处理 URL 编码，避免特殊字符问题[^1]。 --- #### 3. 在 Axios 中的实现 Axios 支持通过模板字符串或 `params` 配置动态生成 URL。 ##### 示例代码 ```javascript // 路径变量替换（使用模板字符串） const userId = 123; axios.get(`/api/users/${userId}`); // 查询参数替换（通过 params 配置） axios.get('/api/search', { params: { q: 'spring', page: 2 } }); // 生成 URL: /api/search?q=spring&page=2 ``` --- #### 4. 关键注意事项 1. **变量匹配**：占位符名称需与传递的参数键名一致。 2. **编码处理**：优先使用框架工具（如 `UriComponentsBuilder`）自动编码，避免手动拼接错误。 3. **安全性**：对用户输入的变量值进行校验，防止注入攻击。 ---
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值