《Deep Subdomain Adaptation Network for Image Classification》

最新推荐文章于 2024-05-31 20:34:28 发布
最新推荐文章于 2024-05-31 20:34:28 发布
阅读量1.6k 收藏
点赞数
分类专栏： java 文章标签： 深度学习
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/uestc_huhu/article/details/118059516
版权

Abstract

我们提出了深子域自适应网络(DSAN)，它通过基于局部最大平均差异(LMMD)在不同域上对齐域特定层激活的相关子域分布来学习传输网络。我们的DSAN非常简单但有效，不需要对抗性训练，收敛速度快。大部分前馈网络模型都可以通过最小均方误差损失进行扩展来实现自适应，而最小均方误差损失可以通过反向传播进行有效训练。

贡献

(1)提出了一种新的子域自适应深度神经网络体系结构，该体系结构通过捕获每个类别的细粒度信息来扩展深度自适应网络的能力。
(2)我们证明了DSAN这种非对抗性的方法可以取得显著的效果。此外，我们的DSAN非常简单，易于实施。
(3)我们提出最小均方误差来度量源域和目标域中嵌入相关子域的核均值之间的差异，并成功地将其应用于DSAN。
(4)提出了一种新的局部分布差异测度来估计两个子域分布之间的差异。

waiall
关注
  • 0
    点赞
  • 踩
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
最大均值差异（Maximum Mean Discrepancy, MMD）复现教程
weixin_43905212的博客
10-14 5416
本文章主要为了复现这个MMD教程中的代码。 pytorch环境安装 下面参考pytorch的官方教程。 这是安装pytorch的先决条件，如果需要用到GPU加速的话还需要下载CUDA驱动。（不过这个小项目就不用啦） 首先需要一个Anaconda做为package manager，为项目建立虚拟环境（因为不同项目对pytorch或者其他包的版本要求不同，不能兼容哦）。 之后要下载项目所需要的pytorch版本。如果项目中有说明具体的pytorch版本，最好下载对应的版本，会省很多问题。在这个MMD项目中没有
【域适应十一】Deep Subdomain Adaptation Network for Image Classification(DSAN)（2021 IEEE Trans）
m0_60231311的博客
11-02 492
以前的深域自适应方法主要学习全局域偏移，导致在没有捕获细粒度信息的情况下迁移学习性能不令人满意。近年来，越来越多的研究人员关注子域自适应，其重点是准确对齐相关子域的分布。然而，它们大多是对抗性方法，包含几个损失函数，收敛缓慢。基于此，本文提出了一种深层子域自适应网络（DSAN），该网络通过基于局部最大均值差异（LMMD）在不同域之间对齐域特定层激活的相关子域分布来学习转移网络，不需要对抗性训练，收敛速度快。
最大均值差异（MMD）的介绍
m0_46861439的博客
05-28 3921
核函数：给定一个非空集合XX，方程kX×X→RkX×X→R，如果存在一个实希尔伯特空间 (R\mathbb{R}R-Hilbert space，实希尔伯特空间因其上的内积的定义的不同而不同) 和一个映射ϕxX→HϕxX→H，使得∀xx′∈X∀xx′∈Xkxx′≔ϕxϕx′Hkxx′ϕxϕx′H​1.对称性：kxx′kx′x。
最大均值差异（Maximum Mean Discrepancy, MMD）损失函数代码解读（Pytroch版）
wuguangbin1230的博客
09-08 6309
##代码及参考资料来源 Source code: easezyc/deep-transfer-learning[Github] 参考资料：迁移学习简明手册 MMD介绍 MMD（最大均值差异）是迁移学习，尤其是Domain adaptation （域适应）中使用最广泛（目前）的一种损失函数，主要用来度量两个不同但相关的分布的距离。两个分布的距离定义为： MMD(X,Y)=∣∣1n∑ni=1ϕ(xi)−1m∑mj=1ϕ(yj)∣∣2H(1)MMD(X,Y) = ||\frac{1}{n}\sum_{i=1.
迁移学习：子领域自适应DSAN和LMMD原理深析和tensorflow实战
最新发布
2401_85375186的博客
05-31 911
DSAN（Deep Subdomain Adaptation Network），深度子领域自适应网络，相比传统的深度领域适配网络引入了子领域的概念，一个领域下可以依据一些条件，将相似的样本划分到一个子领域，比如使用类标签作为划分依据，同一类放到一个子领域，**不再进行全局对齐，而是分别对相关的子领域进行对齐**。
深度子领域迁移网络（DSAN） 阅读笔记
JuJuc09的博客
09-16 1583
以往大多数深度域自适应方法都进行全局对齐（不考虑任何细粒度的信息，比如标签），会混淆源域/目标域的数据，丢失每个类别的细粒度信息。本文提出了一种。
(原文+译文)DeepSubdomainAdaptationNetworkforImageClassification(用于图像分类的深度子域自适应网络)
10-20
Deep Subdomain Adaptation Network for Image Classification(用于图像分类的深度子域自适应网络)王晋东2020年最新文章全文翻译。 对于没有标记数据的目标任务，域适应可以将知识从不同的源域迁移过来。以往的深度...
subdomain3-master
06-13
【subdomain3-master】是一个基于Python的子域名扫描工具，其特点是速度快、字典全面，同时对硬件资源的需求较低，适合进行大规模的子域名发现。该工具由GitHub用户yanxiu0614开发，他的个人仓库地址为...
subdomain:验证您的saas应用程序的子域
05-24
子域名 验证用户在您的应用程序中提交的子域。 支持Laravel：5.5、5.6、5.7和5.8 ... use LVR \ Subdomain \ Subdomain ; $ request -> validate ([ 'domain' => [ 'required' , new Subdomain ], ]);
10000个常见的子域名 subdomain
11-14
www mail ftp localhost webmail smtp pop ns1 webdisk ns2 cpanel whm autodiscover autoconfig m imap test ns blog pop3 dev www2 admin forum news ns3 mail2 new mysql old lists ...intranet等
Novel Diffusion-Based Models for Image Restoration and Interpolation2019.pdf
09-07
These equations have been successfully used for solving many image processing and computer vision tasks in these years, leading to an entire new subdomain of this scientific field. Thus, they offer ...
DSAN代码:Deep Subdomain Adaptation Network forImage Classification
weixin_44575717的博客
07-07 1704
Deep Subdomain Adaptation Network for Image Classification
机器学习中的数学——距离定义（二十八）：最大均值差异（Maximum Mean Discrepancy, MMD）
热门推荐
冯·诺依曼
01-09 2万+
最大均值差异（Maximum Mean Discrepancy，MMD）是迁移学习，尤其是 域适应（Domain Adaptation）中使用最广泛的一种损失函数，主要用来度量两个不同但相关的分布的距离。最大均值差异还可以用来测试两个样本，是否来自两个不同分布ppp和qqq，如果均值差异达到最大，就说明采样的样本来自完全不同的分布。 假设有一个满足ppp分布的数据集Xs=[xs1,…,xsn]和一个满足Q分布的数据集Xt=[xt1,…,xtm] 并且存在一个再生希尔伯特空间H(RKHS) 存在一个映射函数ϕ
深度子域适应网络：Deep Subdomain Adaptation Network for Image Classification
Eason_Swag的博客
06-02 6273
1、简介 深度学习需要大量的标签样本，为解决标签问题提出了迁移学习，即从相关的source domain 去学习标签好的数据。但由于不同域间的数据分布也不同，所以学习得到的模型泛化能力不高。 在训练、测试数据的分布有变动的情况下去学习一个判别模型叫做domain adaptation 或transfer distributions。 在深度特征学习中嵌入domain adaptation模块去提取固定特征 已经证明能带来新的优势。之前的domain adaptation都是在全局域上做迁移，导致一个域内不同
Deep subdomain adaptation network （DSAN）细粒度领域自适应2020 image classification
weixin_44523062的博客
10-18 1669
细粒度对齐方法，local domain shift 子领域对齐（可看作每类是一个子领域），语义对齐，匹配条件（概率）分布 subdomain adaptation (also called semantic alignment or matching conditional distribution) https://zhuanlan.zhihu.com/p/254856261 http://jd92.wang/assets/files/a24tnnls20.pdf 王晋东：Balance 边缘和条件
迁移学习：《Deep Subdomain Adaptation Network for Image Classification》
weixin_44575717的博客
03-23 701
解决域适应主要方法： 方法一：基于矩匹配(MMD)、中心差距(CMD)、二阶统计量匹配 方法二：基于对抗损失 MMD 背后的基本思想是，如果生成的分布是相同的，那么所有统计信息都是相同 的。 ...
【IEEE Transactions NNLS】DSAN: Deep Subdomain Adaptation Network for Image Classification译读笔记
墨门
11-10 834
摘要 对于标注数据难以获取的目标任务来说，域自适应能够将知识从一个不同的源域中将知识迁移过来。之前的深度域自适应方法主要学习全局域漂移，即在全局上对齐源分布和目标分布，而不考虑两个同类别不同域的子域之间的联系，导致没有捕获细粒度特征使得迁移效果不理想。近期，越来越来的研究者关注于子域自适应，即聚焦于更加准确地对齐相关联子域的分布。然而，其中大多数是对抗学习的方法，包含多个损失函数于是收敛缓慢。基于此，作者提出一种深度子域自适应网络（Deep Subdomain Adaptation Network, DSA
最大均值差异
鱼香土豆丝
04-06 1万+
引言最大均值差异(maximum mean discrepancy, MMD)提出时候是用来双样本检测，也就直观的判断两个数据的分布。
深度子领域自适应的方法（DSAN）「迁移学习」「AI核心算法」
九三智能控
11-13 9759
关注：决策智能与机器学习，深耕AI脱水干货作者：朱勇椿 来源：王晋东不在家（ID：yourwjd）转载请联系作者本期我们将为大家介绍一种极为简单的「深度子领域自适应的方法（DSAN）」...
在pytorch上实现基于DSAN（Deep Subdomain Adaptation Network）的域自适应回归迁移学习
07-09
对于在PyTorch上实现基于DSAN的域自适应回归迁移学习，你可以按照以下步骤进行操作： 1. 导入所需的库和模块： ```python import torch import torch.nn as nn import torch.optim as optim from torch.utils.data import DataLoader ``` 2. 定义DSAN模型： ```python class DSAN(nn.Module): def __init__(self): super(DSAN, self).__init__() # 定义模型结构 def forward(self, x): # 定义前向传播逻辑 return x ``` 3. 定义自适应损失函数： ```python class DSANLoss(nn.Module): def __init__(self): super(DSANLoss, self).__init__() # 定义损失函数 def forward(self, output, target): # 计算损失函数值 return loss ``` 4. 定义域自适应回归迁移学习的训练函数： ```python def train(model, dataloader, criterion, optimizer): model.train() # 迭代训练数据集 for i, (source_data, target_data) in enumerate(dataloader): # 前向传播计算输出 outputs = model(source_data) # 计算损失函数值 loss = criterion(outputs, target_data) # 反向传播更新参数 optimizer.zero_grad() loss.backward() optimizer.step() ``` 5. 定义数据加载器和优化器： ```python # 实例化数据加载器 source_dataloader = DataLoader(source_dataset, batch_size=batch_size, shuffle=True) target_dataloader = DataLoader(target_dataset, batch_size=batch_size, shuffle=True) # 实例化模型和损失函数 model = DSAN() criterion = DSANLoss() # 定义优化器 optimizer = optim.Adam(model.parameters(), lr=learning_rate) ``` 6. 执行迁移学习的训练过程： ```python for epoch in range(num_epochs): train(model, source_dataloader, criterion, optimizer) ``` 这是一个基本的框架，你可以根据自己的需求进行修改和扩展。同时，你需要根据实际情况准备好源领域和目标领域的数据集，并根据自己的任务定义模型结构和损失函数。在训练过程中，通过适当调整超参数和优化策略，以获得最佳的迁移学习效果。

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值