最优传输论文（三十五）：Adversarial Discriminative Domain Adaptation论文原理

最新推荐文章于 2023-12-16 16:24:58 发布
最新推荐文章于 2023-12-16 16:24:58 发布
阅读量774 收藏 1
点赞数 2
分类专栏： 领域自适应与最优传输 文章标签： 深度学习 神经网络 pytorch 领域自适应 最优传输
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/qq_41076797/article/details/120273707
版权
本文介绍了对抗性区分域适应（ADDA）方法，该方法结合了对抗性学习与区分性建模，适用于无监督领域自适应。ADDA通过源域的标签学习区分性表示，然后通过对抗性损失学习非对称映射，将目标数据映射到共享特征空间。相较于依赖生成器的其他方法，ADDA更简单，且在多个数字数据集和跨模态任务上表现出色。实验结果显示，ADDA在标准领域自适应任务和跨模态对象分类任务上超越了现有方法。
摘要由CSDN通过智能技术生成

文章目录

前言

  • 文章来自2017年的CVPR
  • 本文是本人迁移学习与最优传输系列论文的第35篇，所有系列论文的相关代码在https://github.com/CtrlZ1/Domain-Adaptation-Algorithms，希望各位大佬们不吝点赞，给个Star哦~

摘要

  • 对抗式学习方法是一种很有前途的训练鲁棒深层网络的方法，可以在不同领域生成复杂的样本。尽管存在域偏差或数据集偏差，它们也可以提高识别率：最近的非监督域自适应对抗性方法减少了训练域和测试域分布之间的差异，从而提高了泛化性能。然而，尽管生成性对抗网络（GAN）显示出令人信服的可视化效果，但它们在区分性任
了解本专栏 订阅专栏 解锁全文 超级会员免费看
CtrlZ1
关注
专栏目录
订阅专栏
迁移学习Adversarial-discriminative-domain-adaptation
12-09
Adversarial Discriminative Domain Adaptation（ADDA）是迁移学习的一个具体应用，该框架专注于解决跨域学习问题，即在源领域和目标领域之间存在显著的数据分布差异时，如何有效地进行模型训练。 ADDA的核心思想是...
[论文笔记] Adversarial Discriminative Domain Adaptation
weixin_44563093的博客
05-12 1213
原文链接：https://arxiv.org/abs/1702.05464（CVPR2017） Motivation 在做区分的任务或者域偏移较大任务上之前的方法比较不那么令人满意。例子是：CoGANs。这种方法只在源域和目标域非常相似的情况下(如 MNIST 和 USPS )显示出优势，在本文实验中，很难使它收敛到更大的分布偏移。 在能够处理大偏差任务的方法上，大多采用了固定权重的方法来进行训练（主要就是 target domain 的分类那边，基本是源和目标共用一个分类器）。 其实很多方法都没.
【基础论文笔记二】Transfer Learning with Dynamic AdversarialAdaptation Network(2019 ICDM)动态对抗适应网络的迁移学习论文笔记
m0_60231311的博客
03-25 1402
当ω→ 0，这意味着全局分布对齐更重要，DAAN将退化为DANN。当ω→ 1，这意味着两个域之间的全局分布相对较小，因此每个类的局部子域分布占主导地位，DAAN将退化为MADA。对ω，只需要运行整个网络一次，并且DAAN不需要训练额外的线性分类器。
迁移学习笔记2:类别总结
越开源越幸运
01-05 1787
什么是迁移学习 迁移学习定义: 利用数据、任务、或模型之间的相似性，将在旧领域学习过的模型，应用于新领域的一种学习过程。 迁移学习的核心问题: 找到新问题和原问题之间的相似性 找到才可以顺利地实现知识的迁移。比如天气问题中，那些北半球的天气之所以相似，是因为它们的地理位置相似；而南北半球的天气之所以有差异，也是因为地理位置有根本不同 常用符号 符号 含义 $$ \mathcal{D}_{s}= \left\{\mathbf{
【Transfer Learning】Adversarial Discriminative Domain Adaptation
PRIS-SCMonkey的博客
07-01 2451
Adversarial Discriminative Domain Adaptation这篇论文正式发表于2017的CVPR，但在2017年的ICLR的Workshop中就已经展露了头角，主要详细的讨论了在Domain Adaptation（即DA领域）中将生成对抗的想法如何更好的融入进来， 实现1+1>2的效果。按照惯例，我们先来看一下写这篇论文的大佬们和他们所属的机构。 一作：Eric...
Adversarial Domain Adaptation with Domain Mixup读书笔记
lwpyh的博客
12-14 2581
Adversarial Domain Adaptation with Domain Mixup读书笔记模型介绍情境设置模型描述DM-ADA的具体框架1. 在两个层次上进行mixup操作2. 具有先验知识的编码器3. 具有先验知识的编码器4. 对潜在空间编码5. 对抗域联合对齐6. 种类级别的域联合适配具体训练步骤：实验部分 这篇文章是AAAI2020的oral,将深度学习里的一个技巧mixup用到...
基础论文 (一) ADDA
qq_42595295的博客
01-14 3391
基于某种确定的度量，将其中某个域的特征映射到另一个域的特征空间中（“非对称”映射），或将源域和目标域的特征一起映射到一个新的共享空间（“对称”映射）。
论文Intramodality Domain Adaptation Using Self Ensembling and Adversarial Training
03-05
不同机构或者肿瘤程度导致数据集的domain shift问题: 论文Intramodality Domain Adaptation Using Self Ensembling and Adversarial Training,本论文提出方案来缓解这个问题.
顾老师GAN最优传输理论pdf整理
01-10
海天讲座系列文件可能详细介绍了最优传输理论在深度学习中的应用，包括其基本概念、数学原理、以及如何将其应用于W-GAN模型。这些讲座可能涵盖了如何构建W-GAN，如何解决训练中的挑战，以及如何评估和比较不同类型的...
Python-AdversarialDiscriminativeDomainAdaptation的PyTorch实现
08-11
Adversarial Discriminative Domain Adaptation的PyTorch实现
Domain-Adversarial-Neural-Network:领域对抗神经网络在 Tensorflow 中的实现
05-29
Tensorflow 中的领域对抗神经网络域对抗神经网络在 Tensorflow 中的实现。 重新创建 MNIST 到 MNIST-M 实验。 使用tensorflow-gpu==2.0.0和python 3.7.4 。MNIST 到 MNIST-M 实验生成 MNIST-M 数据集改编自 要生成...
Adversarial Discriminative Domain Adaptation阅读笔记(详细)
qq_43853021的博客
10-16 4012
[更新中]我的第一篇在线论文阅读笔记-Adversarial Discriminative Domain Adaptation为什么采用这种形式我和这篇文章的渊源名词解释重点语句分析（部分单词给出中文注释） 为什么采用这种形式 今日下午（2021.10.16）想着，看一篇论文，我在原文里面写注释和笔记，然后每次看完以后我都得把标注过的论文传到QQ或者微信里，这样方便下一台电脑接着看。这样刚开始好像没啥问题，可是时间长了，最新注释版本的论文也不知道放到哪里去了，也不知道哪个版本是最新的，那么为什么不放在网络的
ADDA: Adversarial Discriminative Domain Adaptation
nekoli的博客
05-17 5147
ADDA原理理解 ADDA中源域和目标域经过不同的映射来实现对齐。 ADDA的目标函数包括三项： 1.源域的分类误差项 2.域分类器的分类误差项 3.生成器在目标域的误差项 1.源域的分类误差项 源域数据在经过映射Ms后的分类误差最小： 2.域分类器的分类误差项 在源域和目标域分别经过Ms和Mt的映射后，经过域分类器进...
Multi-Adversarial Domain Adaptation
erciyuan_的博客
05-14 5062
前面我们介绍完domain adaptation 下面我们来看一篇论文《Multi-Adversarial Domain Adaptation》发表在2018年的AAAI上面，作者是清华大学龙明盛老师的学生。 我们知道，在domain adaptation中存在两个挑战： (1)加强正向转移 通过最大限度地匹配跨域底层数据分布的多模结构 (2)缓解负迁移 通过防止跨域不同分布模式的错误对齐 原来我...
Adversarial Discriminative Domain Adaption 阅读笔记
11-23 1057
文章发表于 CVPR 2017 文章利用GAN网络的思想用于cross-domain识别 文章首先提到         1 先前的生成网络不适用于大的domain shift         2 先前的辨别网络施加固定的权重，没有利用GAN的loss 1 introduction         一般而言，对于这种跨领域的任务，最简单的思想就是先训练source
【基础论文笔记三】(2018 ICML)CyCADA-Cycle-Consistent Adversarial Domain Adaptation循环一致性对抗域自适应-论文笔记
m0_60231311的博客
04-01 576
虽然特征空间方法很难解释，有时无法捕捉像素级和低级别的域偏移，但图像空间方法有时无法结合与最终任务相关的高级语义知识。本文提出了一种模型，该模型使用生成图像空间对齐和潜在表示空间对齐在域之间进行自适应。我们的方法，语义损失既引导整体表示具有鉴别性，又加强域之间映射前后的语义一致性。我们的方法提供了一个统一的领域对抗性学习模型，该模型结合了先前图像级别方法的可解释性和低级别结构一致性。
【迁移学习论文四】Multi-Adversarial Domain Adaptation论文原理及复现工作
最新发布
weixin_51293984的博客
12-16 682
这篇文章于2018年发表在AAAI，作者是清华大学龙明盛老师的学生。通过最大限度地匹配跨域数据分布的多模式结构来增强正迁移;通过防止跨域分布中模式的错误对齐来减轻负迁移。在这些挑战的激励下，作者提出一种多对抗域自适应(MADA)方法，它捕获多模式结构，以支持基于多个域鉴别器的不同数据分布的细粒度对齐。与以前的方法相比，一个关键的改进是能够同时促进相关数据的正迁移和减轻不相关数据的负迁移。利用线性时间内的反向传播计算梯度，通过随机梯度下降实现自适应。这篇模型的提出具有非常重要的意义，它在理论上是合理的。
对抗对齐分布--Adversarial Domain Adaptation for Cross-lingual Information Retrieval with Multilingual BERT
weiwei935707936的博客
11-25 807
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

CtrlZ1

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值