#今日论文推荐# CVPR 2022 | DAFormer：使用Transformer进行语义分割无监督域自适应的开篇之作

最新推荐文章于 2024-06-17 08:31:25 发布
最新推荐文章于 2024-06-17 08:31:25 发布
阅读量471 收藏
点赞数
分类专栏： 深度学习 文章标签： transformer 深度学习 计算机视觉
原文链接：https://www.aminer.cn/research_report/628452677cb68b460fbb089f?download=false
版权

#今日论文推荐# CVPR 2022 | DAFormer：使用Transformer进行语义分割无监督域自适应的开篇之作

由于为语义分割标注真实图像是一个代价昂贵的过程，因此可以用更容易获得的合成数据训练模型，并在不需要标注的情况下适应真实图像。
在无监督域适应(UDA)中研究了这一过程。尽管有大量的方法提出了新的适应策略，但它们大多是基于比较经典的网络架构。由于目前网络结构的影响尚未得到系统的研究，作者首先对UDA的不同网络结构进行了基准测试，并揭示了Transformer在UDA语义分割方面的潜力。在此基础上提出了一种新的UDA方法DAFormer。论文题目：DAFormer: Improving Network Architectures and Training Strategies for Domain-Adaptive Semantic Segmentation
详细解读：https://www.aminer.cn/research_report/628452677cb68b460fbb089f?download=false
AMiner链接：

https://www.aminer.cn/?f=cs​

wwwsxn
关注
  • 0
    点赞
  • 踩
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
YOLOV5/YOLOV8改进：CVPR 2022 |EfficientViT：轻量级多尺度关注设备上语义分割
m0_51530640的博客
05-17 2566
视觉变压器因其较高的模型性能而取得了巨大的成功。然而，它们显著的性能伴随着沉重的计算成本，这使得它们不适合实时应用。在本文中，我们提出了一种被称为高效振动的高速视觉变压器。我们发现，现有的变压器模型的速度通常受到内存低效操作的限制，特别是在MHSA中的张量重塑和元素级函数。因此，我们设计了一个新的具有夹层布局的构建块，即在有效的FFN层之间使用单一内存绑定的MHSA，在提高内存效率的同时提高了信道通信。此外，我们发现注意力图在头部之间有很高的相似性，从而导致计算冗余。
【深度学习】语义分割：论文阅读：(CVPR 2022) MPViT（CNN+Transformer）：用于密集预测的多路径视觉Transformer
zhe470719的博客
05-31 9562
这里写目录标题0详情1摘要2 主要工作3 网络结构3.1 Conv-stem3.2 Multi-Scale Patch Embedding3.3 Multi-path Transformer3.3.1 多路径Transformer和局部特征卷积CoaT的因素分解自注意深度可分离卷积3.3.2Global-to-Local Feature Interaction4 实验- Semantic segmentation5总结 0详情 论文：MPViT : Multi-Path Vision Transformer
DAFormer代码学习
m0_50986537的博客
11-19 1987
论文学习和复现
域自适应相关论文
weixin_42678562的博客
06-09 1084
刚刚接触域自适应方向，相关论文和代码如下：
CVPR2024无监督Unsupervised论文17篇速览
最新发布
weixin_44287798的博客
06-17 1424
CVPR2024关于无监督论文的摘要速览17篇
CVPR 2022 | 小鹏汽车联合石溪大学提出基于Transformer的安全域适应
TechBeat人工智能社区博客
06-17 1072
在本文中，作者提出了一种新的UDA解决方案SSRT (Safe Self-Refinement for Transformer-based domain adaptation)。
读论文：基于自监督知识的无监督新集域适应学习
a44267113的博客
09-01 2454
面对真实环境中各种复杂的情况，提出了基于自监督知识的无监督新集域适应(SUNDA)方法迁移源域的样本对比知识
#今日论文推荐# CVPR 2022丨特斯联AI提出：用于视觉任务中无监督域自适应的类别对比
w1hsxn的博客
06-21 292
深度神经网络（Deep Neural Networks, DNNs）由于跨域不匹配（cross-domain mismatch），通常在新域表现不佳。而无监督域自适应（UDA）技术则可通过利用未标记的目标域样本缓解跨域不匹配问题。
dwt-domain-adaptation:论文代码“使用特征白化和共识丢失的无监督域自适应”（CVPR 2019）
05-06
用于无监督域自适应的域白化转换（CVPR 2019） 于2019年6月在加利福尼亚州长滩举行的计算机视觉与模式识别会议（ CVPR ）上发布了论文的官方PyTorch github存储库，该论文进行了。 先决条件 火炬1.0 的Python 3.5 ...
语义分割背景下UDA（无监督域自适应）的三个方向
odssodssey的博客
03-10 4553
语义分割背景下UDA（无监督域自适应）的三个方向： 1、基于对抗学习 实际上，AdaptSegNet就是经典的基于对抗学习的域适应方法。这一类的方法训练一个判别器来使得目标域的分布在像素空间或者特征空间上进行对齐（在像素空间上的对齐已经被证明对于语义分割任务而言优于特征空间），从而使得分割模型的性能能从源域泛化到目标域上。除了AdaptSeg之外，这一方向上的经典工作还有： 1、Fcns in the wild: Pixel-level adversarial and constraint-based
SegFormer：使用Transformer进行语义分割的简单高效设计
阿木寺的博客
06-01 7921
前言 将 Transformer 与轻量级多层感知 (MLP) 解码器相结合，表现SOTA！性能优于SETR、Auto-Deeplab和OCRNet等网络，代码即将开源！ 注1：文末附【视觉Transformer】交流群 想看更多CVPR 2021论文和开源项目可以点击： CVPR2021-Papers-with-Code ​ SegFormer SegFormer: Simple and Efficient Design for Semantic Segmentation with Transformer
DeFormer（20 ACL）
qq_43390809的博客
03-03 695
DeFormer: Decomposing Pre-trained Transformers for Faster Question Answering https://github.com/StonyBrookNLP/deformer Motivation 单塔模型运行速度慢，并且内存密集，本文引入DeFormer，它在较低的层单独处理question和passages，这允许预先计算段落表示，从而大大减少运行时计算。 1.介绍 根据这个事实： 预训练模型较低的层往往侧重于local现象，如句..
Cross-Domain Transformer用于无监督域自适应ICLR2022
白景屹的博客
05-13 3998
前置内容：Cross Attention（Transformer的解码器部分） 自注意力的计算回顾关于自注意力机制的思考； key-value注意力的计算为：Attention(Q,K,V)=softmax(QKTdk)VAttention(Q,K,V)=softmax(\frac{QK^{T}}{\sqrt{d_{k}}})VAttention(Q,K,V)=softmax(dk​​QKT​)V 交叉注意力和自注意力均来自Transformer，除了输入，交叉注意力的计算与自注意力一样。交叉注意力不对称.
【论文笔记】Learning Distinctive Margin toward Active Domain Adaptation(CVPR 2022)
weixin_42126945的博客
05-18 1242
论文：https://arxiv.org/abs/2203.05738 代码：https://github.com/TencentYoutuResearch/ActiveLearning-SDM 摘要 目前主动学习的方法不能处理域适应问题下存在域差异的情况，或者之前的域适应主动学习(active domain adaptation，以下简称ADA)的工作往往需要复杂的标注查询函数的设计。本文提出了基于可区分边界的选择方法SDM，主要为数据选择设计了最大边界损失和边界采样算法。本文提出的SDM可以被证明可以像
DAFormer: Improving Network Architectures and Training Strategies for Domain-Adaptive Semantic Segme
m0_46598543的博客
11-29 820
语义分割 迁移学习
【CVPR2022】DAFormer: 改进领域自适应语义分割的网络架构和训练策略
qq_33290813的博客
06-27 2530
Code：https://github.com/lhoyer/DAFormer Paper: https://openaccess.thecvf.com/content/CVPR2022/papers/Hoyer_DAFormer_Improving_Network_Architectures_and_Training_Strategies_for_Domain-Adaptive_Semantic_CVPR_2022_paper.pdf由于获取真实世界图像的像素级注释以进行语义分割是一个昂贵的过程，因此可以
用于弱监督语义分割的多类token transformer
qq_45745941的博客
04-08 995
本文提出了一种新的基于Transformer的框架，将特定于类的对象定位映射学习为弱监督语义分割(WSSS)的伪标签。标准视觉Transformer中一个类Token 的参与区域可以被利用来形成一个类不确定的定位映射本文研究了Transformer模型是否也可以通过学习Transformer中的多个类Token 来有效地捕获特定于类的注意力，以进行更具鉴别性的对象定位。
医学图像配准论文学习——TransMorph,用于无监督医学图像配准的transformer（2022）
qq_49603002的博客
03-12 5984
研一狗，开始发奋图强看论文，写（水）论文的路上。老师之前给布置的项目是根据几何信息进行图像配准，实在是太难了/(ㄒoㄒ)/~~。来参拜一下大佬的论文。一、abstract在医疗图像配准领域，之前有基于传统的几何方法（我导就是干这个的大牛，但现在安心在家带娃了），近几年深度学习的方式逐渐火热。当然在图像领域大放异彩的conv和transformer都被引入了配准中。conv中有unet++，而transformer中则是TransMorph效果最好（2022年发表在。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值