【论文阅读】Learning Semantic Representations for Unsupervised Domain Adaptation

最新推荐文章于 2023-04-13 22:17:55 发布
最新推荐文章于 2023-04-13 22:17:55 发布
阅读量3.9k 收藏 9
点赞数 4
分类专栏： 迁移学习 文章标签： 迁移学习
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/zhy455/article/details/84000056
版权
本文提出了一种名为moving semantic transfer network (mstn)的网络，旨在通过对齐源域和目标域相同类别的中心来学习样本的语义信息，从而解决无监督领域适应的问题。损失函数包括分类损失、域对抗损失和语义转移损失，其中语义转移损失是主要创新点，通过centroid alignment减少源域和目标域之间的差距。实验在Office-31、ImageCLEF-DA和手写数字集上展示了有效性的提升。
摘要由CSDN通过智能技术生成

Learning Semantic Representations for Unsupervised Domain Adaptation 2018 ICML
代码地址：https://github.com/Mid-Push/Moving-Semantic-Transfer-Network Tensorflow

一. 主要贡献

这篇文章解决的主要问题是如何用有标签的数据去标记无标签的数据？ 之前的方法都忽略了样本的语义信息，比如之前的算法可能将目标域的背包映射到源域的小汽车附近。 这篇文章最要的贡献就是提出了 moving semantic transfer network 这个网络，简称mstn，其主要是通过 对齐源域（有标签）和 目标域（伪标签，网络预测一个标签）相同类别的中心，以学习到“样本的语义信息。

二. 主要方法

2.1 基本框架

在这里插入图片描述

该方法中损失函数主要由三部分组成：
其主要表达形式如下：

最低0.47元/天 解锁文章
zhy455
关注
  • 4
    点赞
  • 踩
  • 9
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
Moving-Semantic-Transfer-Network:用于ICML2018的Tensorflow代码，学习用于无监督域自适应的语义表示
05-01
移动语义转移网络（ICML2018） 在对抗性适应的基础上，我们提出了一种Pseudo Centroid Alignment Objective来实施Semantic Transfer 。 如果您被限制使用相对较小的批处理大小（对于64个分类，则为64；对于1000个分类，则为100），那么您可能会对我们的“ Moving Centroid Alignment感兴趣。 欢迎检查我们的。 引文 如果您认为这对您的研究有用，请引用以下论文，我们将不胜感激： @inproceedings{xie2018learning, title={Learning Semantic Representations for Unsupervised Domain Adaptation}, author={Xie, Shaoan and Zheng, Zibin and Chen, Liang an
迁移学习论文（五）：Learning Semantic Representations for Unsupervised Domain Adaptation论文原理及复现工作
lyy的博客
04-16 1334
目录前言原理阐述文章介绍模型结构模型总述超参数设置总结 前言 本文属于我迁移学习专栏里的一篇，该专栏用于记录本人研究生阶段相关迁移学习论文的原理阐述以及复现工作。 本专栏的文章主要内容为解释原理，论文具体的翻译及复现代码在文章的github中。 原理阐述 文章介绍 这篇文章于2018年发表在ICML会议，作者是Shaoan Xie、Zibin Zheng、Liang Chen、Chuan Chen。 这篇文章解决的主要问题是如何利用伪标签来进行域适应。之前的方法都忽略了样本的语义信息，比如之前的算法可
Learning Semantic Representations for Unsupervised Domain Adaptation
最新发布
weixin_44858740的博客
04-13 22
由于人工标注成本昂贵，将知识从标签丰富的源领域转移到无标签的目标领域非常重要。先验域适应方法通过对齐源域和目标域之间的全局分布统计信息来解决这个问题，但是先验方法的一个缺点是忽略了样本中包含的语义信息，例如目标域中背包的特征可能映射到源域中汽车的特征附近。在本文中，我们提出了移动语义迁移网络，通过对齐标记源质心和伪标记目标质心来学习未标记目标样本的语义表示。同一类别但不同领域的特征有望被附近映射，从而提高目标分类精度。移动平均质心对齐被谨慎地设计来补偿每个小批量内分类信息的不足。
Learning Disentangled Semantic Representation for Domain Adaptation-IJCAI-2019文章解读
qq_40491207的博客
04-01 1529
Learning Disentangled Semantic Representation for Domain Adaptation-IJCAI-2019文章解读1. 摘要2.main contributions3. 可解耦的语义表达模型4. 理论证明详见论文5. 实验 1. 摘要 现有的大多数域适应方法无法从特征空间提取具有entangle domain information（域耦合信息）...
CVPR2019:Domain-Specific Batch Normalization for Unsupervised Domain Adaptation无监督域适配的特定域批处理规范化
ssshyeong的博客
09-13 2229
我们在深度神经网络中提出了一种新的基于领域特定批归一化的无监督领域自适应框架。我们的目标是通过在卷积-卷积神经网络中专门化批归一化层，同时允许它们共享所有其他模型参数，从而适应这两种领域，这是通过两阶段算法实现的。在第一阶段，我们使用外部无监督域自适应算法(例如ample, MSTN[27]或CPUA[14])来估计目标域中示例的伪标签，该算法集成了提出的特定于域的批处理归一化。第二阶段使用源和目标域的多任务分类损失学习最终模型。注意，两个域在两个阶段都有单独的批处理规范化层。
Semantic separator learning and its applications in unsupervised Chinese text parsing
02-09
Grammar learning has been a bottleneck problem for a long time. In this paper, we propose a method of semantic separator learning, a special case of grammar learning. The method is based on the ...
论文笔记：Learning Deconvolution Network for Semantic Segmentation
01-06
文章目录1 摘要2 亮点2.1 解码器结构2.1.1 反池化层2.1.2 反卷积层2.1.3 反池化和反卷积结合2.2 网络整体结构3 部分效果3.1 FCN和DeconvNet的对比3.2 各个网络效果对比4 结论5 参考文献 1 摘要 ...
DSSM算法论文 Learning deep structured semantic models for web search using clickth
11-25
文本相似度 DSSM--Learning deep structured semantic models for web search using clickthrough data.pdf
SEMA: Deeply learning semantic meanings and temporal dynamics for recommendations
02-08
SEMA: Deeply learning semantic meanings and temporal dynamics for recommendations
Domain Adaptation for Visual Recognition
01-07
hensive overview of domain adaptation solutions for visual recognition problems. By starting with the problem description and illustrations, we discuss three adaptation scenarios namely, (i) ...
Optimal Transport for Domain Adaptation
12-20
Domain adaptation is one of the most challenging tasks of modern data analytics. If the adaptation is done correctly, models built on a specific data representation become more robust when confronted to data depicting the same classes, but described by another observation system. Among the many strategies proposed, finding domain-invariant representations has shown excellent properties, in particular since it allows to train a unique classifier effective in all domains. In this paper, we propose a regularized unsupervised optimal transportation model to perform the alignment of the representations in the source and target domains. We learn a transportation plan matching both PDFs, which constrains labeled samples of the same class in the source domain to remain close during transport. This way, we exploit at the same time the labeled samples in the source and the distributions observed in both domains. Experiments on toy and challenging real visual adaptation examples show the interest of the method, that consistently outperforms state of the art approaches. In addition, numerical experiments show that our approach leads to better performances on domain invariant deep learning features and can be easily adapted to the semi-supervised case where few labeled samples are available in the target domain.
【论文笔记】Asymmetric Tri-training for Unsupervised Domain Adaptation
zhy455的博客
10-17 2338
@[TOC](【论文笔记】Asymmetric Tri-training for Unsupervised Domain Adaptation)) 论文地址：http://cn.arxiv.org/pdf/1702.08400v3 代码地址：https://github.com/corenel/pytorch-atda#pytorch-atda 基本介绍 ATDA 解决的问题： 源数据有类别标签，...
【ECCV 2020】Deep Credible Metric Learning for Unsupervised Domain Adaptation Person Re-identification
Joselynzhao
06-24 409
DCML背景知识Person re-identification (ReID)common methods is finetuning内容概要本文工作方法效果数据集相关工作未来工作方法提要主要框架算法描述实验效果方法详解 背景知识 Person re-identification (ReID) Person re-identification (ReID) aims at identifying a query individual from a large set of candidates unde.
Domain Adaptation through Synthesis for Unsupervised Person Re-identification 论文笔记
hyk_1996的博客
02-22 1669
这篇文章来自ECCV2018. 主要针对无监督的行人再识别任务，首先用3D引擎和环境渲染技术构建了一个多光照条件的虚拟行人数据集，接着用该合成数据集和其它大型真实数据集合并，共同预训练了一个模型。由于涵盖了各种光照情况，该模型具有良好的泛化性能。为了进一步提升无监督性能，该文章提出了一种域自适应技术（有约束的cycleGAN），选择和目标域的光照情况最相似的那些合成图像，迁移到目标域上，再利用迁移...
Chen et al. Deep Association Learning for Unsupervised Video Person Re-identification论文翻译
qq_32526087的博客
10-30 1570
原文：https://arxiv.org/pdf/1808.07301.pdf 有些地方翻译地不是很准确，加上DAL系列的paper就只看了这一篇，其它还要去补。不知道它这个为什么要用TensorFlow来训练模型用matlab来评估。其code在：https://github.com/yanbeic/Deep-Association-Learning Deep Association Learn...
域适配论文杂读（门外汉级）
PeaceInMind的博客
04-02 4015
要看的基于深度学习的adaptation和image translation方面的论文，希望能对这个领域最新的工作有个概念,主要给自己看。其实个人觉得解决这个问题真的不是重点，而是研究它的成因，以便在训练的过程中解决CNN泛化的问题才是本质   Table of Contents     未看或未总结   分类或分割 [2018-arxiv] Adaptive Semantic S...
Unsupervised Domain Adaptation for Semantic Segmentation via Class-Balanced Self-Training
fuyouzhiyi的博客
11-06 3566
摘要 最近的深度网络在各种语义分割任务上实现了最先进的性能。尽管取得了这些进展，但这些模型经常面临现实世界“wild tasks”中的挑战，其中存在标记的训练/源数据与看不见的测试/目标数据之间的巨大差异。特别地，这种差异通常被称为“域间隙”，并且可能导致显着降低的性能，这通过进一步增加表示能力而不能容易地补救。无监督域适应（UDA）试图在没有目标域标签的情况下克服这种问题。在本文中，我们提出了一...
【DRCN阅读】Deep Reconstruction-Classification Networks for Unsupervised Domain Adaptation. 论文笔记
zhy455的博客
10-31 4890
1. 基本介绍 代码： 有Keras和Pytorch两个版本，网址分别是：https://github.com/ghif/drcn https://github.com/fungtion/DRCN 2016年一篇ECCV的文章 主要贡献： 给源域有标签的数据作分类（有监督）； 能够学习到目标域无标签数据的特征表达（无监督）。 2. 方法： 2.1 主要结构 这个网络可以看成有三个部...
最优传输论文（八）Enhanced Transport Distance for Unsupervised Domain Adaptation
qq_42595295的博客
01-04 546
1.将Kantorovich潜在网络进行参数化，并根据深度特征返回最优传输计划g(f(x)) 用神经网络g来表示潜在特征对偶变量v，对应参数Wg , 优化传输计划πε的过程转化为优化网络g的过程. 对网络g进行参数优化后，利用当前参数Wg计算出最优传输距离Wε(µ，ν) 2.利用attention模块重新衡量传输距离，对距离矩阵进行重加权操作，使一个mini-batch实现真实的数据分布 3.最终，通过Kantorovich潜在网络计算得到的g(f t j)与重加权后的距离矩阵c(f s i,f t j)得
plop: learning without forgetting for continual semantic segmentation
04-09
“b'plop: 无遗忘的连续语义分割学习”是一种新型的机器学习方法，旨在实现在不断变化的场景下进行语义分割的持久性学习，避免遗忘之前获取的信息。该方法使用增量学习并设计了一个可调节的遗忘阈值，从而更好地适应...

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值