【基础论文笔记一】(2018 NIPS)Conditional Adversarial Domain Adaptation CDAN条件对抗域适应

VIP文章 已于 2023-04-14 19:15:21 修改
阅读量1.9k 收藏 17
点赞数 1
分类专栏： 域适应基本论文 文章标签： python 机器学习 论文阅读
于 2023-03-20 16:50:19 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/m0_60231311/article/details/129654573
版权

        对抗性学习已被嵌入到深层网络中，用于学习解纠缠和可转移的领域适应表示。在分类问题中，现有的对抗性域自适应方法可能无法有效地对齐多模态分布的不同域。作者指出当前一些对抗域适应方法仍存在三个问题：1.只考虑了特征对齐，没有考虑标签对齐。2.当数据分布体现出复杂的多模态结构时，对抗性自适应方法可能无法捕获这种多模态结构，也就是说即使判别器完全被混淆，也无法保证此时源域和目标域足够相似。并且这种风险不能通过单独的域鉴别器将特征和类的分布对齐来解决。3.条件域判别器中使用最大最小优化方法也许存在一定的问题，最大最小的对抗网络结构给所有的例子施加了相同的权重，但是有些比较难预测的例子可能会对网络的学习产生影响。 

        因此本文提出条件对抗域适应网络（CDAN）在一定程度上解决以上三个问题：1.通过对齐特征-类别的联合分布解决 2.使用了Multilinear Conditioning多线性调整的方法来解决 3.提出了在目标函数中添加Entropy Conditioning熵调整来解决

一、CDAN结构

        网络结构主要就是源域和目标域的数据通过深度神经网络Alexnet/ResNet对源域和目标域提取特征f，然后通过源分类器G得出预测标签g，与《Simultaneous Deep Transfer Across Domains and Tasks》相似，不过文中将预测结果g和特征f联合分布，多线性映射输入到与域判别器D中。

二、多线性调整

        文中通过联合变量h=(f,g)将域鉴别器D条件设定在分类器预测g上。这种条件域鉴别器可以潜在地解决对抗性域自适应的上述两个挑战。D的一个简单条件是）

最低0.47元/天 解锁文章
羊驼不驼a
关注
  • 1
    点赞
  • 踩
  • 17
    收藏
    觉得还不错? 一键收藏
  • 2
    评论
专栏目录
最优传输论文（四十）：Conditional Adversarial Domain Adaptation论文原理
lyy的博客
10-09 770
文章目录前言摘要1 Introduction2 Related Work3 Conditional Adversarial Domain Adaptation 前言 文章来自2018年的NIPS 本文是本人领域自适应与最优传输系列论文的第40篇，所有系列论文的相关代码在https://github.com/CtrlZ1/Domain-Adaptation-Algorithms，希望各位大佬们不吝点赞，给个Star哦~ 摘要 对抗性学习被嵌入到深度网络中，以学习解纠缠和可转移的表示，实现领域自适应。
Targeted-Adversarial-Attack:一种有针对性的对抗攻击方法，赢得了NIPS 2017有针对性的攻击攻击竞赛
05-16
有针对性的专业攻击 介绍 该存储库包含提交给的前1名提交者的代码。 方法 我们使用动量迭代法来生成对抗性示例。 我们总结了算法（CVPR 2018，Spotlight）。 我们注意到针对性攻击几乎没有可传递性。 这一发现不仅来自我们的实验，而且来自于本次比赛的其他提交者。 我们认为，很难为具有大量类（即1000个）的ImageNet数据集找到可传递的对抗性示例，因为两个类之间的决策边界对于不同的模型可能不会显示出相同的属性。 引文 如果您在研究中使用动量迭代法进行攻击，请考虑引用 @inproceedings{dong2018boosting, title={Boosting Adversarial Attacks with Momentum}, author={Dong, Yinpeng and Liao, Fangzhou and Pang, Tianyu and Su,
域对抗（域适应）训练
热门推荐
小幸运
08-26 1万+
1. 引入 在传统监督学习中，我们经常需要大量带标签的数据进行训练，并且需要保证训练集和测试集中的数据分布相似。如果训练集和测试集的数据具有不同的分布，训练后的分类器在测试集上就没有好的表现。这种情况下该怎么办呢？ 域适应（Domain Adaption），也可称为域对抗（Domain Adversarial），是迁移学习中一个重要的分支，用以消除不同域之间的特征分布差异。其目的是把具有不同分布的源域(Source Domain) 和目标域(Target Domain) 中的数据，映射到同一个特征空间.
2018 Conditional Adversarial Domain Adaptation
weixin_44858740的博客
03-14 107
对抗学习已被嵌入到深度网络中，用于学习用于域适应的解纠缠和可迁移表示。现有的对抗域适应方法可能无法有效地对分类问题中固有的多模态分布的不同域进行对齐。在本文中，我们提出了条件对抗域适应，这是一个原则性的框架，它将对抗适应模型的条件限制在分类器预测中传递的判别信息上。
[NIPS 2018] Conditional Adversarial Domain Adaptation
一亩高粱
07-19 452
清华 龙明盛
Conditional Adversarial Domain Adaptation
gdtop的个人笔记
04-16 6811
本篇为迁移学习系列第九篇论文，清华大学助理教授Mingsheng Long (龙明盛)发表在国际机器学习顶级会议Neural2018上提出的新的Domain Adaptation的条件对抗网络。 Abstract 对抗性学习已被嵌入到深层网络中，用于学习解纠缠和可转移的领域适应表示。在分类问题中，现有的对抗性域自适应方法可能无法有效地对齐多模态分布的不同域。在本文中，我们提出了一个条件对抗性域...
【最优传输论文十一】Domain-attention Conditional Wasserstein Distancefor Multi-source Domain Adaptation（2020）
m0_60231311的博客
06-23 164
由于简单地在所有源数据上训练分类器并在目标数据上执行预测可能无法获得令人满意的性能，因为该方法忽略了每个源域对目标域的不同贡献量。因此考虑对不同源数据样本进行加权并施加注意机制。本文提出了一种新的方法——域注意力条件Wasserstein距离(DCWD)，通过学习转移的权重来评估源域和目标域之间的相关性。对于每个源域和目标域，设计了一个考虑标签信息的条件Wasserstein距离目标函数来度量每个源域和目标域之间的距离。
Conditional Adversarial Domain Adaptation的理论支持
fuyouzhiyi的博客
11-05 530
Reproducing Kernel Hilbert Space Given a nonempty set X\mathcal{X}X , and H\mathcal{H}H is a Hilbert space of function f:X→Rf :\mathcal{X} \to Rf:X→R Then H\mathcal{H}H called a Reproducing Kernel Hi...
Importance-weighted conditional adversarial network for unsupervised domain adaptation笔记
BEA_D的博客
03-21 590
Importance-weighted conditional adversarial network for unsupervised domain adaptation 这篇文章属于深度领域适配，深度领域适配主要包括两种方法： 1.基于差异思想：特征提取器，分类器，MMD/CORAL… 2.基于对抗思想：特征提取器，分类器，域判别器 ...
跨域图像识别
qq_40107571的博客
05-29 1326
跨域图像识别
领域自适应（Domain Adaptation）的简单介绍
百年孤独百年的博客
05-30 7230
领域自适应（Domain Adaptation）是指通过学习源领域和目标领域之间的差异，来实现将源领域的模型迁移到目标领域的能力。在实际应用中，由于数据的获取和标注成本较高，我们通常会面临数据集不完整、不平衡、标注不准确等问题，这些问题会影响模型的泛化能力和性能。领域自适应可以帮助我们解决这些问题，提升模型的泛化能力和性能。
图神经网络对抗攻击与防御
12-23
图神经网络对抗攻击与防御PPT，分享了Nettack和GNNGUARD
matlab精度检验代码-NIPS-2018-Adversarial-Vision-Challenge:与我们参与2018NIPS对抗愿景挑战
05-22
2018对抗视觉挑战赛“稳健模型之路” ， （2018年11月发布） 抽象的 该存储库包含代码，文档和部署配置文件，这些文件，文档和部署配置文件与我们参与2018 NIPS对抗愿景挑战“稳健模型轨道”有关。 我们实现了一种...
NeurIPS 2020上与【域自适应】相关论文（六篇）
12-02
近期，NeurIPS 2020快开会了，本文发现域自适应（Domain Adaptation）相关的接受paper很多，这块研究方向近几年一直很火，并且各个CV和NLP的域自适应任务也非常多。
SpCo-NIPS 2022 论文阅读详细笔记
10-30
Revisiting Graph Contrastive Learning from the Perspective of Graph Spectrum----NeurIPS 2022
对抗判别式领域自适应
海上机械师
04-20 2644
领域自适应技术在不匹配说话人识别的问题中非常有效。这篇文章是图像领域的判别式对抗自适应方法，也同样可以迁移至说话人识别领域。 作者提出了对抗自适应方法的广义框架，进而在此基础上，提出了对抗判别式领域自适应方法 (ADDA)，该方法涉及判别式模型、无共享权重和 GAN 损失。提出的方法在三个任务上进行测试：无监督领域自适应基准任务 - 数字(MNIST、USPS 和 SVHN)、跨模态的自适应学习任务(NYUD)和跨视觉域的自适应学习任务(标准 Office - amazon, webcam, dslr)。
Nat. Mach. Intell 2023 | DrugBAN+：域自适应的可解释双线性插值网络改进药物-靶标预测(DTI)
最新发布
justBeHerHero
08-30 725
Nat. Mach. Intell 2023 | DrugBAN+：域自适应的可解释双线性插值网络改进药物-靶标预测
【论文导读】Learning Causal Semantic Representation forOut-of-Distribution Prediction
weixin_55703970的博客
10-30 775
传统的监督学习方法，尤其是深度学习方法，被发现对分布外（OOD）的例子很敏感，这主要是因为学习到的表征由于它们在特定领域的相关性而将语义因素和变化因素混合在一起，而只有语义因素会引起输出。为了解决这个问题，我们提出了一个基于因果推理的因果语义生成模型（CSG），以便对这两个因素进行单独建模，并开发了从单一训练领域进行OOD预测的方法，这是一个常见的、具有挑战性的方法。这些方法基于因果不变性原则，采用变异贝叶斯的新颖设计，既能高效学习，又能轻松预测。
【计算机视觉|生成对抗】带条件的对抗网络进行图像到图像的转换（pix2pix）
远
08-14 1160
我们研究了将条件对抗网络作为通用解决方案，用于图像到图像的转换问题。这些网络不仅学习从输入图像到输出图像的映射，还学习了一个损失函数来训练这种映射。这使得可以将相同的通用方法应用于传统上需要非常不同损失公式的问题。我们证明了这种方法在从标签映射合成照片、从边缘映射重建物体和给图像上色等任务中是有效的。此外，自从与本论文相关联的pix2pix软件发布以来，已经有数百名Twitter用户发布了使用我们的系统进行艺术实验的作品。
nips17-adversarial-attack代码运行环境
04-04
nips17-adversarial-attack代码的运行环境需要具备以下条件： 1. Python 3.5或更高版本； 2. PyTorch 0.4或更高版本； 3. NumPy和SciPy库； 4. CUDA（如果使用GPU进行计算）。 建议在Linux或macOS操作系统下运行代码。在Windows系统上运行时可能会遇到一些问题。

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 2
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值