Deep CORAL: Correlation Alignment for Deep Domain Adaptation

最新推荐文章于 2024-06-03 10:05:48 发布
最新推荐文章于 2024-06-03 10:05:48 发布
阅读量303 收藏 1
点赞数
文章标签： 数据结构与算法 人工智能
原文链接：https://segmentfault.com/a/1190000009666877
版权

（还在写）

Introduction

  • 作者引进了一个叫做CORAL的方法，通过对source domain和target domain进行线性变换来将他们各自的的二阶统计量对齐。

  • 但是作者认为CORAL实际上需要先对图像进行特征提取，再进行线性转换，再训练一个SVM分类器，比较麻烦。

  • 作者对CORAL方法进行了拓展，通过在source domain和target domain之间建立一个最小化source domain和target domain数据之间相关性的损失函数来将它并入deep networks。

  • 作者将CORAL方法改进做非线性变换，并且直接作用于source domain和target domain。

Deep CORAL

  • 假设：target domain上没有标记的数据。

  • 第一个目标是：平衡一个大的具有很好泛化的数据域(a large generic domain，比如ImageNet)和source domain之间的deep feature(深度网络学到的特征)。可以通过将神经网络的参数用那个large generic domain预训练过的网络的参数初始化并微调来达到目的。

  • 第二个目标是：最小化source domain和target domain的deep feature的二阶统计量的差别。

  • 网络架构：
    clipboard.png

在fc8这一层当中，作者引入了CORAL loss这一损失函数。（AlexNet架构）

CORAL loss

$D_s={x_i}$

weixin_34266504
关注
【迁移学习(Transfer L)全面指南】Deep CORAL几何特征变换
李响
10-25 1793
论文名称：Deep CORAL: Correlation Alignment for Deep Domain Adaptation 论文地址：https://arxiv.org/pdf/1607.01719.pdf 文章目录1 概述2 论文的CORAL loss3 CORAL loss代码 1 概述 解决的问题 深度神经网络可以在大规模的标注数据中学校到特征，但是输入数据分布不同的时候泛化不是很好。因此提出了domain adaptation来弥补性能。本文针对target domain没有标注数据情况
论文阅读：DeepCORAL
qq_40752034的博客
12-09 1635
DeepCORAL：https://github.com/VisionLearningGroup/CORAL. 1、目标：提出一种域自适应（在无标签的情况下完成另外一个域的训练分类。） 2、方法：使用预训练好的模型，对相似数据的其他域进行在训练，从而达到分类的效果。 3、亮点：定义了一个不同域的loss函数，可以另外加于某一层，加权后于分类loss一起使用。 ...
DeepCORAL:DeepCoral网络用于域适应的实现
05-16
深珊瑚 用于域自适应的DeepCoral网络的实现。 DeepCoral网络用于无监督域自适应，该域自适应将源和目标分布的二阶统计信息与非线性变换对齐。
Deep coral: Correlation alignment for deep domain adaptation. ECCV 2016. Domain Adaptation
便纵有千种风情
07-14 1067
** Sun, Baochen, and Kate Saenko. “Deep coral: Correlation alignment for deep domain adaptation.” ECCV. Springer, Cham, 2016. ** 结构如图： 两个损失函数： 其中LCLASS\mathcal{L}_{CLASS}LCLASS​为分类损失，LCORAL\mathcal{...
Deep CORAL: Correlation Alignment for Deep Domain Adaptation（2016）
MataFela的博客
06-06 6493
Introduction 作者引进了一个叫做CORAL的方法，通过对source domain和target domain进行线性变换来将他们各自的的二阶统计量对齐。 但是作者认为CORAL实际上需要先对图像进行特征提取，再进行线性转换，再训练一个SVM分类器，比较麻烦。 作者对CORAL方法进行了拓展，通过在source domain和target domain之间建立一个最小化source do
域适应系列3：Minimal-entropy Correlation Alignment for Unsupervised Deep Domain Adaptation（ICLR 2018）
weixin_43673376的博客
09-23 1310
1、Minimal-entropy Correlation Alignment for Unsupervised Deep Domain Adaptation（ICLR 2018）      在介绍文章之前，先理解下CORAL[1]（CORrelation ALignment ）这个概念，这个概念来自 Return of Frustratingly Easy Domain Adaptation. AAAI 2016这篇文章，个人是超喜欢这篇文章，忍不住把它摘要附上，算
遥感图像-Deep Feature Alignment Neural Networks for Domain Adaptation of Hyperspectral Data高光谱数据深度特征对齐神经
ssshyeong的博客
05-07 2112
本文中,我们建议使用深特性结合神经网络进行域的适应,在标记辅助数据源的数据可以用来提高分类的性能在有限领域,否则带安全标签的数据是可用的。该模型首先利用深度卷积递归神经网络提取源和目标域的鉴别特征，然后通过将每一层特征映射到变换后的每一层公共子空间，逐层对齐。
【域适应十九】CDTRANS: CROSS-DOMAIN TRANSFORMER FOR UN-SUPERVISED DOMAIN ADAPTATION
m0_60231311的博客
04-26 991
无监督域自适应旨在将学习到的知识从一个有标记的源领域转移到另一个无标记的目标领域。大多数现有的UDA方法都是使用基于卷积神经网络(cnn)的框架，从领域层面或类别层面学习域不变特征表示。基于类别级别的UDA的一个基本问题是为目标域中的样本产生伪标签，这些伪标签通常过于嘈杂，无法进行准确的域对齐，不可避免地影响了UDA的性能。随着Transformer在各种任务中的成功，我们发现Transformer中的交叉注意对噪声输入对具有鲁棒性，可以更好地进行特征对准，因此本文将Transformer用于具有挑战性的U
[论文笔记/综述类] A Survey of Unsupervised Deep Domain Adaptation (持续更新)
weixin_44563093的博客
05-12 327
原文链接：https://arxiv.org/abs/1812.02849 1. Introduction This paper provides anoverview of generative adversarial networks (GANs) to provide background for the increasingly widespread use of adversarial techniques in domain adaptation. investigate the v..
DeepCORAL:P“深珊瑚”的PyTorch实施
05-14
深珊瑚 PyTorch实施的“深层珊瑚：深层域适应的相关对齐”。 B Sun，K Saenko，ECCV 2016' 深度CORAL可以学习一种非线性变换，该变换可以对齐深度神经网络（Deep CORAL）中层激活的相关性。 我的实施结果（任务Amazon->网络摄像头）： 要求 的Python 3 PyTorch 0.2 用法 解压缩dataset/office31.tar.gz中的dataset/office31.tar.gz 运行python3 main.py
CVPR2021/邻域自适应/图像翻译-DRANet: Disentangling Representation and Adaptation Networks
ssshyeong的博客
04-09 2539
DRANet将图像表示分离，并在潜在空间中传输视觉属性，以实现无监督的跨域自适应。与现有的学习共享一个域的相关特征的域自适应方法不同，DRANet保留了每个域特征的独特性。我们的模型对源图像和目标图像的内容（场景结构）和风格（艺术外观）的单独表示进行编码。然后，它通过将转换的样式因子和为每个域指定的可学习权重合并到内容因子中来调整域。该学习框架允许使用单个编码器网络进行双向/多向域自适应，并调整其域转移。内容自适应域传输模块，该模块有助于在传输样式的同时保留场景结构。
论文阅读Synthetic to Real Adaptation with Generative Correlation Alignment Networks
ShirleySnow的博客
12-25 787
论文题目：Synthetic to Real Adaptation with Generative Correlation Alignment Networks 作者：Xingchao Peng，Kate Saenko 来源： arxiv2017 1. 摘要 文章的想法是如果使用3D CAD建模的合成图片进行训练数据的数据增强，将会是一件非常有意义的事。然而，合成图片与真实图片之间存在
推荐文章：深度探索领域适应——CORAL框架引领的无监督迁移学习之旅
最新发布
gitblog_00091的博客
06-03 510
推荐文章：深度探索领域适应——CORAL框架引领的无监督迁移学习之旅 项目地址:https://gitcode.com/VisionLearningGroup/CORAL 在机器学习与计算机视觉的广阔天地里，领域适应（Domain Adaptation）是一块充满挑战的前沿阵地，它旨在让模型跨不同数据域高效迁移知识，以解决真实世界应用中的数据偏斜问题。今天，我们要向您隆重介绍一个在这个领域中闪耀的...
故障诊断 | 用于跨机器工况下故障诊断的深度判别迁移学习网络附Pytorch代码
天天酷科研的博客
04-21 800
故障诊断 | 用于跨机器工况下故障诊断的深度判别迁移学习网络附Pytorch代码
Domain Adaptation总结（2017.9）
热门推荐
MataFela的博客
09-03 2万+
有一篇论文（[cvpr2017]Joint Geometrical and Statistical Alignment for Visual Domain Adaptation ）对Domain Adaptation做了一定的总结，我直接把我当时的翻译抄一下： 常见的域适应包括基于实例（instance-based）的适应、基于特征表示( feature representation）的适应、
＜论文阅读＞ CorAl – 点云是否正确对齐？ CorAl – Are the point clouds Correctly Aligned?
秃头队长
03-12 3268
【摘要】：在机器人感知中，许多任务依赖于点云配准。然而，然而，目前还没有一种方法可以在没有特定环境参数的情况下可靠地自动检测错位点云。我们提出"CorAl"，一种用于点云对的对齐质量度量和对齐分类器，它有助于评估配准性能的能力。 CorAl 比较了两个点云的联合熵和分离熵。分离熵提供了可以认为是环境固有的熵的度量。因此，如果点云正确对齐，则联合熵应明显更低。计算期望熵使得该方法对小的对齐误差也很敏感，这些误差特别难以检测，并且适用于一系列不同的环境。我们发现 CorAl 能够以 95% 的准确率在以前看不见
nlp中的alignment
Eric_LH的博客专栏
08-21 3440
IBM 1模型引入了一个很重要的东西：Alignments，也就是词汇之间是如何关联的。 word Alignments 中文翻译：词对齐。 例如： John bought books. John purchase books. 这里bought和purchase在语法和词义上都是等价的，这便是一种对齐。
Correlation and Convolution
Parisiten的博客
06-18 2420
Correlation相关：        形象化的描述为，相关为kernel和当前覆盖区域对应元素相乘取和。Convolution卷积：                形象化的描述为，卷积为kernel水平翻转再垂直反转后和当前覆盖区域对应元素相乘取和。...
Deep coral
11-03
Deep CORAL是一种用于深度领域自适应的方法，它通过对齐源域和目标域的特征分布来减少领域之间的差异。引用中的图2(a)显示了Deep CORAL在目标域上获得更好的性能，同时在源域上保持较强的分类精度。 1. Deep CORAL...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值