解耦表示学习（Decoupled Representation Learning, DRL）算法详解

已于 2024-12-26 22:12:52 修改
阅读量1.2k 收藏 25
点赞数 6
分类专栏： 进阶算法案例 文章标签： 学习 算法 解耦表示学习 DRL 图像分类 强化学习 python
于 2024-12-24 07:00:00 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/qq_42568323/article/details/144568445
版权

目录

解耦表示学习（Decoupled Representation Learning, DRL）算法详解

第一部分：解耦表示学习（DRL）概述

1.1 DRL算法简介

解耦表示学习（Decoupled Representation Learning，DRL）是一种通过分离表征学习和任务学习过程来提高学习效率的机器学习方法。在传统的机器学习任务中，特征表示（或表征）与任务（如分类、回归、强化学习等）是紧密相连的。然而，DRL提出通过解耦的方式，使得特征的学习和任务的学习可以分别进行，从而让算法能够独立优化表示学习和任务学习，提高了模型的灵活性、可扩展性以及对复杂任务的适应性。

具体来说，DRL的核心思想是将表征学习与具体任务的学习分离开来，并且通过设计灵活的学习框架，使得模型能够在不同任务之间共享表征，从而提升训练的效率和任务的泛化能力。

1.2 DRL的背景

随着深度学习的发展，表征学习逐渐成为许多机器学习任务的核心。传统的表征学习方法通常将表征和任务学习绑定在一起，这可能导致两个问题

了解本专栏 订阅专栏 解锁全文
表征学习Representation Learning
yang_daxia的博客
11-30 1360
1入门 https://zhuanlan.zhihu.com/p/136554341 2、representation learning 解耦（disentangled）、可解释（Interpretable） ICRL顶级会议 和gan联系的比较紧密，如infogan 3、和reid结合 Look across Elapse: Disentangled Representation Learning and Photorealistic Cross-Age Face Synthes...
【AAAI 2021】基于解耦标签的知识蒸馏：Knowledge Refinery: Learning from Decoupled Label
梁瑛平的博客
08-07 871
【AAAI 2021】基于解耦标签的知识蒸馏：Knowledge Refinery: Learning from Decoupled Label论文地址：主要问题：主要思路： 论文地址： https://ojs.aaai.org/index.php/AAAI/article/view/16888 主要问题： 目前的知识蒸馏需要预先训练一个额外的教师模型 主要思路： 这篇提出了一种叫做知识精炼（Knowledge Refinery，简称 KR）的方法，该方法使神经网络能够在没有师生训练策略的情况下动态学习知识
最新最全论文合集——解耦表示学习
AI_Conf的博客
02-09 996
AMiner平台（https://www.aminer.cn）由清华大学计算机系研发，拥有我国完全自主知识产权。平台包含了超过2.3亿学术论文/专利和1.36亿学者的科技图谱，提供学者评价、专家发现、智能指派、学术地图等科技情报专业化服务。系统2006年上线，吸引了全球220个国家/地区1000多万独立IP访问，数据下载量230万次，年度访问量超过1100万，成为学术搜索和社会网络挖掘研究的重要数据和实验平台。 必读论文：https://www.aminer.cn/topic 论文集地址：https:/.
【解耦表示学习】必读论文合集推荐
AI_Conf的博客
05-10 1435
最近，腾讯AI Lab联合ETH证明其提出的变分估值有更低的解耦误差和更好的估值表现两个优异特性！ 其中涉及解耦性能、具有最佳可想象解耦误差的估值等有关解耦的知识。我们一起来简单了解一下解耦： 如果在处理复杂数据时，我们能把表现较好的神经网络和人工建模方法结合起来，可解释性、生成和操作对象的能力、无监督特征学习和零样本学习的问题，都可以在一定程度上得到解决。对于微分方程和其他人工建模方法来说，图像处理很难进行，但通过和深度学习进行结合，上述模型允许我们进行对象的生成和操作、可解释性强，最重要的是，该模型可.
路径规划学习笔记——DRL-VO 复现
m0_52643323的博客
03-06 1360
3）我们在多个模拟的 3D 环境中验证了导航性能，并证明所提出的控制策略在避障和速度之间实现了更好的权衡，并且比最先进的方法（包括基于模型的控制器、基于监督学习的方法以及两种基于 DRL 的方法）对不同的人群规模和新的未知环境具有更好的泛化性。与基于监督学习的方法相比，基于 DRL 的方法更常用于动态环境中的导航。基于这些趋势，我们也将利用预处理后的传感器数据，即激光雷达数据的短时间历史记录和行人的当前运动学数据，我们之前的研究表明，在监督学习环境中，这些数据能够提高导航安全性。
CIKM 2021 | DISENKGAT：知识图谱解耦表征学习
Paper weekly
11-01 2536
©PaperWeekly 原创 ·作者 |吴俊康学校 |中国科学技术大学硕士生研究方向 |信息检索论文标题：DisenKGAT: Knowledge Graph Embedding...
解耦框架 ModularizationArchitecture 学习解析
子敬的技术博客
03-20 2309
ModularizationArchitecture Demo结构分析 引导 作者对于框架结构的思考： http://blog.spinytech.com/2016/12/28/android_modularization/ 项目Github地址：https://github.com/SpinyTech/ModularizationArchitecture 项目的使用： http:
ICLR 2021 | GSL：通过可控的解耦表征学习模拟人脑想象力
阿木寺的博客
04-22 859
点击下方卡片，关注“CVer”公众号AI/CV重磅干货，第一时间送达本文作者：葛云皓 Andy| 本文系CVer粉丝投稿（源: 知乎）https://zhuanlan.zhihu.co...
什么是解耦表示学习？使用beta-VAE模型探究医疗和金融问题
AI科技大本营
05-06 9945
作者 | Alexandr Honchar译者 | 大鱼编辑 | Rachel、琥珀出品 | AI科技大本营（id：rgznai100）【导语】本文对传统的人工数学建模和...
变形自动编码器（Deforming Autoencoders）– 学习到解耦的表示形式
分享日常的学习，开展的项目，编写的软件，解决的问题等~
02-10 3834
本博客针对计算机视觉领域一个新的模型：变形自动编码器。本文是论文 Deforming Autoencoders: Unsupervised Disentangling of Shape and Appearance 主要内容概括和思考，论文地址。部分内容翻译自 https://neurohive.io/en/computer-vision/deforming-autoencoders/ 因为本...
论文解读：Toward Causal Representation Learning（向因果表示学习）
m0_62064655的博客
06-27 1589
讨论了因果模型和统计模型等不同层次的模型，这些模型都建立在一系列涉及建模和数据收集的假设上面。说明了因果推断的理论基础知识，并强调了独立机制假设及相关概念（如不变性）为因果学习提供了有力的偏差，以及如何从观察数据和干预数据中学习因果关系。讨论了如何将因果框架应用于机器学习领域，如半监督学习、领域泛化以及对抗鲁棒性。未来研究领域将包括：①学习大规模的非线性因果关系：1、在什么条件下可以学习非线性因果关系；2、哪些训练框架最有利于利用机器学习方法进行扩展；
论文分享CausalVAE: Disentangled Representation Learning via Neural Structural Causal Models
qq_53536373的博客
06-14 1615
【AI Drive】CVPR 2021 | CausalVAE：引入因果结构的解耦表征学习_哔哩哔哩_bilibili 目标1 学习到的表征 是具有唯一性的 ，是可以被识别的 根据真实情况设置，代表真实的物理情况，引入结构因果模型，为了表征可识别 引入监督信号 2 在因果表征中实现 do operation 什么是 do operation 对隐表征能进行干预的时候，因果效应可以传递到子节点 通过干预可以让模型生成一些反事实的图片 3 在现实场景中 因果图 不一定是直接given的 让 模型自动
解耦控制算法的研究
03-29
前馈补偿解耦法设计一已知的两输入、两输出有耦合被控对象的解耦控制系统，并完成它的混合仿真，对无耦合系统、有耦合而未解耦系统以及有耦合且采用解耦控制系统的控制作比较研究
“解耦表示学习”+“交互作用（效应）+权衡 (Trade-off)”是什么？
Drug discovery
11-03 1197
解耦表示学习的目标是找到一种表示方法，其中每一部分的表示只对应于一个因子，如一个特征只对应于面部表情，另一个特征只对应于发型等。这样，如果我们希望生成一个新的人脸图像，我们可以单独选择每个因子，如选择笑脸的面部表情和短发的发型，而不需要关心其他因子。解耦表示学习（Disentangled Representation Learning）是深度学习和机器学习领域的一种研究方法，其目标是学习到的特征表示中的每一部分都对应于原始数据中的独立变化的因子。：通过鼓励模型对于不同的因子采取不同的特征表示。
解耦的含义！
hancold的专栏
04-15 1766
 数学中解耦是指使含有多个变量的数学方程变成能够用单个变量表示的方程组，即变量不再同时共同直接影响一个方程的结果，从而简化分析计算。
ICML 2023 | 对多重图进行解耦的表示学习方法
Paper weekly
09-21 850
©作者 |焦子豪单位 |南京邮电大学Introduction无监督多重图表示学习（UMGRL）受到越来越多的关注，但很少有工作同时关注共同信息和私有信息的提取。在本文中，我们认为，为了进行有效和鲁棒的 UMGRL，提取完整和干净的共同信息以及更多互补性和更少噪声的私有信息至关重要。为了实现这一目标，我们首先研究了用于多重图的解缠表示学习，以捕获完整和干净的共同信息，并设计了对私有信息进行对比约...
MyDLNote - Detection : 2019 CVPR 使用解耦表示（Disentangled Representation）学习的罕见事件检测
u014546828的博客
08-22 3977
CVPR 2020 Rare Event Detection using Disentangled Representation Learning Ryuhei Hamaguchi, Ken Sakurada, and Ryosuke Nakamura National Institute of Advanced Industrial Science and Technology (AIST) {ryuhei.hamaguchi, k.sakurada, r.nakamura}@aist.go.j
直播预告|ICLR’22： 利用预训练的生成模型来学习解耦表征：对比学习视角
AI_Drive的博客
05-10 522
「AI Drive」是由 biendata 和 PaperWeekly 共同发起的学术直播间，旨在帮助更多的青年学者宣传其最新科研成果。我们一直认为，单向地输出知识并不是一个最好的方式，而有效地反馈和交流可能会让知识的传播更加有意义，从而产生更大的价值。 本期 AI Drive，我们邀请到香港科技大学-任烜池，为大家在线解读其发表在 ICLR 2022的最新研究成果：利用预训练的生成模型来学习解耦表征：对比学习视角。对本期主题感兴趣的小伙伴，5月10日（周二）晚7点，我们准时相约 AI_Dr...
程序中的耦合与解耦学习（三）——解耦学习1
wanghao723206的博客
03-03 719
以下内容来源于网友内容：引用网友链接 简要 一、解耦都是需要代理的。本质上并不存在没有代理就发生两个部件之间解耦的情况。 二、耦合，指的是两个可以协作的部件的关系。A和B可以协作，则A和B的关系是耦合。 三、如果A可以和O,P,Q,S…(简称集合F)协作，则A就和集合F发生了耦合，如果A发生了变化，想要维持系统正常，那么集合F就需要顺应A的变化而变化，以保持协作有效。同样的，集合F中的任何一个发生...
强化学习编码器哦
最新发布
03-21
### 强化学习中的编码器实现与算法 #### 背景介绍 强化学习（Reinforcement Learning, RL）是一种通过试错来优化行为策略的方法，在处理复杂环境时通常会遇到高维输入数据，例如图像或视频序列。为了有效地从这些高维数据中提取有用的信息，引入了编码器的概念。编码器的作用是从原始观测空间映射到一个低维特征空间，从而简化后续的策略学习过程。 在自监督强化学习领域，解耦表示学习（Decoupled Representation Learning, DRL）[^2] 和对比预测编码（Contrastive Predictive Coding, CPC）[^3] 是两种常用的编码器设计方法。 --- #### 解耦表示学习（DRL） DRL 的核心思想是将表示学习和策略学习的过程分开，使得模型能够专注于构建高质量的状态表示。具体来说： - **目标函数**：DRL 使用互信息最大化作为其主要优化目标之一，目的是让学到的表示尽可能多地保留关于状态的相关信息。 - **架构特点**： - 输入端接收来自环境的高维观察值。 - 经过一系列卷积层或其他神经网络结构后，生成紧凑的潜在变量 \( z \)，即编码后的状态表示。 - 基于此潜在变量训练下游的任务导向型策略。 以下是基于 PyTorch 实现的一个简单版本的 DRL 编码器框架： ```python import torch.nn as nn class DRLEncoder(nn.Module): def __init__(self, input_dim=128, hidden_dim=64, output_dim=32): super(DRLEncoder, self).__init__() self.encoder = nn.Sequential( nn.Linear(input_dim, hidden_dim), nn.ReLU(), nn.Linear(hidden_dim, output_dim) ) def forward(self, x): return self.encoder(x) # 初始化编码器实例 encoder = DRLEncoder() print(encoder(torch.randn(10, 128)).shape) # 输出形状应为 (batch_size, output_dim) ``` 上述代码定义了一个简单的多层感知机（MLP），它可以用作基础的编码器模块。 --- #### 对比预测编码（CPC） CPC 则进一步扩展了这一思路，利用时间上的依赖关系来进行无标签的数据建模。它的基本原理如下： - **上下文嵌入**：对于给定的时间步 t，计算当前时刻以及未来若干个时间步的上下文向量 c_t。 - **正样本与负样本区分**：通过最大化真实未来帧的概率分布与其他随机抽取帧之间的差异完成训练。 下面展示如何用 Python 构造一个初步形式化的 CPC 模型： ```python import torch.optim as optim class CPCEncoder(nn.Module): def __init__(self, input_size=512, latent_size=128): super(CPCEncoder, self).__init__() self.context_model = nn.GRU(input_size=input_size, hidden_size=latent_size, batch_first=True) self.prediction_networks = nn.ModuleList([nn.Linear(latent_size, latent_size) for _ in range(10)]) # 预测不同步长 def encode_context(self, sequence): _, h_n = self.context_model(sequence.unsqueeze(dim=0)) return h_n[-1] model = CPCEncoder() criterion = nn.CrossEntropyLoss() optimizer = optim.Adam(model.parameters(), lr=0.001) def train_step(inputs, targets): optimizer.zero_grad() context_vector = model.encode_context(inputs) predictions = [] actual_labels = [] loss = 0. for k_steps_ahead in range(len(targets)): pred_logit = model.prediction_networks[k_steps_ahead](context_vector).unsqueeze(-1) target_label = torch.tensor([[targets[k_steps_ahead]]], dtype=torch.long) current_loss = criterion(pred_logit.squeeze(), target_label.squeeze()) loss += current_loss.item() / len(targets) loss.backward() optimizer.step() return loss ``` 以上片段展示了 GRU 结构被用来捕捉长期动态特性，并且多个线性变换分别对应不同的前瞻距离设定。 --- #### 总结比较 | 特征 | Decoupled Representation Learning (DRL) | Contrastive Predictive Coding (CPC) | |--------------|-------------------------------------------------------------|-------------------------------------------------------| | 数据需求 | 不需要额外标注 | 同样不需要 | | 训练方式 | 更加注重分离表征 | 主要关注局部时空关联 | | 应用范围 | 广泛应用于各种连续控制任务 | 尤其适合具有明显顺序模式的任务 | 无论是哪种技术路线的选择都取决于具体的业务背景及其约束条件等因素影响下的权衡考量结果。 ---
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

闲人编程

你的鼓励就是我最大的动力，谢谢

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值