迁移学习：深度加权子域自适应网络

已于 2022-03-30 20:43:42 修改
阅读量3k 收藏 10
点赞数 2
分类专栏： 迁移学习文章解读 文章标签： python 图像处理 人工智能 深度学习 迁移学习
于 2022-03-30 15:28:17 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/weixin_44575717/article/details/123847501
版权

找了一篇关于子域自适应的文章，准备在上一篇子域自适应文章的基础上进一步进行深入学习。

是一篇来自河南工业大学的一篇论文《深度加权子域自适应网络》，本文分析的切入点主要是对比两篇文章的不同之处。

 

DSAN在我看来已经是非常成功的一篇论文了，没想到这篇论文只是借用相同的方法做出稍稍的改进就可以在OFFICE31上实现如此大的突破，真的也是让我大吃一惊。不过遗憾的是，没有论文代码，联系通讯作者也没有要到，表示理解吧，但是不开源也还是很遗憾 ......

学好Deep_Learning
关注
  • 2
    点赞
  • 踩
  • 10
    收藏
    觉得还不错? 一键收藏
  • 1
    评论
专栏目录
deep-transfer-learning:深度域自适应算法的实现集合
05-03
在PyTorch上进行深度转移学习 这是用于深度迁移学习的PyTorch库。 我们将代码分为两个方面：单源无监督域自适应（SUDA）和多源无监督域自适应（MUDA）。 SUDA方法很多，但是我发现有一些深度学习的MUDA方法。 此外，具有深度学习的MUDA可能是领域适应性更广阔的方向。 在这里，我实现了一些深度传输方法，如下所示： UDA DDC：针对领域不变性的深度领域混淆最大化 DAN：通过深度适应网络学习可转让特性（ICML2015） Deep Coral：用于深域适应的Deep CORAL相关对齐（ECCV2016） Revgrad：通过反向传播进行无监督域自适应（ICML2015） MRAN：用于跨域图像分类的多表示自适应网络（Neural Network 2019） DSAN：用于图像分类的深度子域适配网络（神经网络和学习系统2020的IEEE交易） 慕达对齐特
深度子域适应网络：Deep Subdomain Adaptation Network for Image Classification
Eason_Swag的博客
06-02 6205
1、简介 深度学习需要大量的标签样本，为解决标签问题提出了迁移学习，即从相关的source domain 去学习标签好的数据。但由于不同域间的数据分布也不同，所以学习得到的模型泛化能力不高。 在训练、测试数据的分布有变动的情况下去学习一个判别模型叫做domain adaptation 或transfer distributions。 在深度特征学习中嵌入domain adaptation模块去提取固定特征 已经证明能带来新的优势。之前的domain adaptation都是在全局域上做迁移，导致一个域内不同
【域适应十一】Deep Subdomain Adaptation Network for Image Classification(DSAN)（2021 IEEE Trans）
最新发布
m0_60231311的博客
11-02 456
以前的深域自适应方法主要学习全局域偏移，导致在没有捕获细粒度信息的情况下迁移学习性能不令人满意。近年来，越来越多的研究人员关注子域自适应，其重点是准确对齐相关子域的分布。然而，它们大多是对抗性方法，包含几个损失函数，收敛缓慢。基于此，本文提出了一种深层子域自适应网络（DSAN），该网络通过基于局部最大均值差异（LMMD）在不同域之间对齐域特定层激活的相关子域分布来学习转移网络，不需要对抗性训练，收敛速度快。
深度子领域自适应的方法（DSAN）「迁移学习」「AI核心算法」
九三智能控
11-13 9538
关注：决策智能与机器学习，深耕AI脱水干货作者：朱勇椿 来源：王晋东不在家（ID：yourwjd）转载请联系作者本期我们将为大家介绍一种极为简单的「深度子领域自适应的方法（DSAN）」...
深度子领域迁移网络（DSAN） 阅读笔记
JuJuc09的博客
09-16 1469
以往大多数深度域自适应方法都进行全局对齐（不考虑任何细粒度的信息，比如标签），会混淆源域/目标域的数据，丢失每个类别的细粒度信息。本文提出了一种。
域自适应的理解与想法（Domain Adaptation）
yuanxue18的博客
03-16 5350
这幅图是域适应非常有名的一篇论文中的插图，被很多文章转载。 什么是领域自适应？ Domain Adaptation是迁移学习中很重要的一部分内容，目的是把分布不同的源域和目标域的数据，映射到一个特征空间中，使其在该空间中的距离尽可能近。于是在特征空间中对source domain训练的目标函数，就可以迁移到target domain上，提高target domain上的准确率。 上面的图主要的思想来源于GAN，上图由三部分组成：特征映射网络 标签分类网络和和域判别网络 其中，source domain的数.
(原文+译文)DeepSubdomainAdaptationNetworkforImageClassification(用于图像分类的深度子域自适应网络)
10-20
Deep Subdomain Adaptation Network for Image Classification(用于图像分类的深度子域自适应网络)王晋东2020年最新文章全文翻译。 对于没有标记数据的目标任务，域适应可以将知识从不同的源域迁移过来。以往的深度...
SERVICES 03 (03):配置DNS子域授权
01-07
3 案例3：配置DNS子域授权 3.1 问题 沿用案例1，本例要求为上下级两个DNS区域建立父子关联，实现客户机向父DNS也可以查询到子域内的FQDN，基本要求如下： 构建父DNS（tedu.cn）服务器 构建子DNS（bj.tedu.cn）服务器...
domained：多工具子域枚举
02-05
domained使用多个子域枚举工具和单词列表来创建唯一的子域列表，这些子域传递给EyeWitness，以使用分类的屏幕截图，服务器响应标头和基于签名的默认凭据检查进行报告。 （资源保存到./bin，输出保存到./output） ...
frogy:我的子域枚举脚本
03-05
Frogy的子域枚举-这不是另一个子域枚举工具 通过使用不同子域工具的组合，它尝试使用蛮力和其他技术的组合来识别更多子域。 警告 脚本逻辑将在我朋友的付费工具之一中使用，并具有其他功能。 因此，几个月来我都没有...
整理学习之深度迁移学习
你好
04-17 3777
主要学习了论文：A Survey on Deep Transfer Learning，整理附加了一些学习过程中看到的便于理解迁移学习的资料。
Transfer Learning ——深度迁移学习
weixin_42633401的博客
07-06 777
利用深度神经网络进行迁移学习
CVPR2022 | 可精简域适应
fzlhz的博客
06-24 424
背景 深度神经网络通常对离线采集的图像（标记的源数据）进行训练，然后嵌入到边缘设备中，以测试从新场景中采集的图像（未标记的目标数据）。在实践中，这种模式由于域转移而降低了网络性能。近年来，越来越多的研究者对无监督领域适应（UDA）进行了深入研究，以解决这一问题。 Vanilla UDA旨在将源数据和目标数据对齐到联合表示空间中，以便根据源数据训练的模型可以很好地推广到目标数据。但是，学术研究与工业需求之间仍然存在差距：大多数现有的UDA方法仅使用固定的神经结构进行权重自适应，但无法有效地满足现实世界应用中各
【IEEE Transactions NNLS】DSAN: Deep Subdomain Adaptation Network for Image Classification译读笔记
墨门
11-10 815
摘要 对于标注数据难以获取的目标任务来说，域自适应能够将知识从一个不同的源域中将知识迁移过来。之前的深度域自适应方法主要学习全局域漂移，即在全局上对齐源分布和目标分布，而不考虑两个同类别不同域的子域之间的联系，导致没有捕获细粒度特征使得迁移效果不理想。近期，越来越来的研究者关注于子域自适应，即聚焦于更加准确地对齐相关联子域的分布。然而，其中大多数是对抗学习的方法，包含多个损失函数于是收敛缓慢。基于此，作者提出一种深度子域自适应网络（Deep Subdomain Adaptation Network, DSA
深度学习算法优化背景知识---指数加权平均
weixin_30902675的博客
05-22 349
背景：在深度学习优化算法，如:Momentum、RMSprop、Adam中都涉及到指数加权平均这个概念。为了系统的理解上面提到的三种深度学习优化算法，先着重理解一下指数加权平均(exponentially weighted averages) 定义 指数移动平均（EMA）也称为指数加权移动平均（EWMA），是一种求平均数的方法，应用指数级降低的加权因子。 每个较旧数据的权重都呈指数下降，从未达...
深度学习： 指数加权平均
gaoxueyi551的专栏
07-28 5138
1. 指数加权平均 指数加权平均是深度学习众多优化算法的理论基础，包括Momentum、RMSprop、Adam等，在介绍这些优化算法前，有必要对指数加权平均(exponentially weighted averages)做一个简单的介绍，以期对后续的优化算法的原理有所知晓。 何为指数加权平均那？ 现在想求一段时间内的平均温度，给定一段时间的温度序...
一文读懂深度适配网络（DAN）
weixin_34088838的博客
08-01 4103
这周五下午约见了机器学习和迁移学习大牛、清华大学的龙明盛老师。老师为人非常nice，思维敏捷，非常健谈！一不留神就谈了1个多小时，意犹未尽，学到了很多东西！龙明盛老师在博士期间（去年博士毕业）发表的文章几乎全部是A类顶会，他在学期间与世界知名学者杨强、Philip S. Yu及Michael I. Jordan多次合作，让我非常膜拜！这次介绍他在ICML...
Deep subdomain adaptation network （DSAN）细粒度领域自适应2020 image classification
weixin_44523062的博客
10-18 1661
细粒度对齐方法，local domain shift 子领域对齐（可看作每类是一个子领域），语义对齐，匹配条件（概率）分布 subdomain adaptation (also called semantic alignment or matching conditional distribution) https://zhuanlan.zhihu.com/p/254856261 http://jd92.wang/assets/files/a24tnnls20.pdf 王晋东：Balance 边缘和条件
迁移学习全局域自适应，子域自适应，深度子域自适应分解是什么，他们的区别是什么
06-01
迁移学习全局域自适应、子域自适应和深度子域自适应分解是一种用于迁移学习的方法。它们的区别在于对源域和目标域的特征空间的自适应分割方式和如何进行特征表示的选择。 全局域自适应迁移学习是将源域和目标域都看做一个整体，对它们的特征空间进行相同的自适应分割。这种方法适用于源域和目标域具有相似的特征分布的情况。 子域自适应迁移学习是将源域和目标域看做若干个子域，对它们的特征空间进行不同的自适应分割。这种方法适用于源域和目标域特征分布的差异比较大的情况。 深度子域自适应迁移学习则是将源域和目标域的特征空间不断地分割，直到每个小区域的尺寸都小于某个预定义的阈值。这种方法能够很好地处理源域和目标域的特征分布差异很大的情况，但是计算量会随着特征空间的细分而增加。 总的来说，全局域自适应、子域自适应和深度子域自适应分解都是用于迁移学习的方法，它们的区别在于对源域和目标域的特征空间的自适应分割方式和如何进行特征表示的选择，具体选择哪种方法取决于源域和目标域的特征分布情况和迁移学习任务的要求。

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 1
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值