Learning to Adapt Structured Output Space for Semantic Segmentation——CVPR2018

Learning to Adapt Structured Output Space for Semantic Segmentation——CVPR2018

前面【1】一篇,有提到用对抗loss和半监督来做分割。而这篇可以说是对抗loss和域适配结合起来做的另一个工作了。这里写图片描述

背景:

  1. 知识迁移和域适配:目标域(target domains,没有标注)和源域(source domains,有标注)是具有相近的性质,知识迁移和域适配都是试图从源域学习到一定知识,任何能很好的适合目标域,从而减少不必要的人力物力。
  2. 像图像的appearance ,shape and context,很难通过一个网络把每个视觉信息完全编码好,像医学图像,就是纹理和shape结构信息特别丰富,比自然图像可能高出几个难度集。Lecun也曾说过结构信息很难目前的通过深度神经网络编码。但是appearance确一般能识别很出色,而这篇文章的尽管源域和目标源appearance相差很大,但是理论上也可以做到很出色。

数据集:

GTA5,SYNTHIA

方法

网络结构:

同上篇文章一样,分成两个网络,分割网络G,和判别器网络$D_i$(这篇文章称为域适配模块,i表示判别器有多层次水平对抗学习)。

G:基于Deeplab-v2+ResNet-101+ASPP的baseline网络

D: 具体可以看UNSUPERVISED R EPRESENTATION LEARNINGWITH DEEP CONVOLUTIONAL GENERATIVE ADVERSARIAL NETWORKS的判别器部分,没有很大的改动。

G和D与上偏网络结构几乎相似,文章的重点同样也不在这。而在于用了多个D,多个适配域模块(图一中是用了2个,paper用这个原因是什么?)。

训练

生成器loss:和【1】一样

分割loss:和【1】一样

多层次对抗学习(multi-level Adversarial Learning) loss:

这里写图片描述

结果:

看下在多层次对抗学习和单层次对抗学习的差距:在这个数据集上,对于面积较大物体的好像提高的较为明显。

这里写图片描述
总结:创新点在于多层次对抗学习,这大概是能发CVPR的原因?
引用
【1】Adversarial Learning for Semi-Supervised Semantic Segmentation

  • 0
    点赞
  • 2
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 0
    评论
“你只需要90000个参数即可适应光:一款轻量级的Transformer” Light:一款轻量级的Transformer是指在型参数数量较少的情况下,实现了对光照的适应能力。一般来说,Transformer型通常需要巨大的参数数量来实现高质量的自然语言处理任务。然而,对于特定的任务,比如对光照的适应,研究人员最近提出了一种轻量级的Transformer型,只需要90000个参数即可实现。 这个型的轻量级设计主要集中在两个方面:型架构和参数数量。首先,型架构方面,轻量级Transformer采用了一种精简的结构,去掉了一些传统Transformer中的冗余块。其次,在参数数量方面,研究人员通过对参数维度和层数进行有效的优化,实现了型的轻量化。因此,这个轻量级Transformer仅需要90000个参数,就能够达到对光照的适应能力。 这个轻量级Transformer的适应光照的能力主要体现在两个方面:特征提取和型自适应。首先,在特征提取方面,轻量级Transformer能够从输入的光照图像中提取出有效的特征表示,用于后续的任务处理。其次,在型自适应方面,轻量级Transformer能够动态地学习并调整网络参数,从而更好地适应不同光照条件下的输入数据,提高型的性能。 总之,通过轻量级的设计和精简的参数数量,这个仅需要90000个参数的轻量级Transformer型能够有效地适应光照。这种型设计的优势在于在保持良好性能的同时,减少了型的复杂性和计算资源的需求,为光照相关任务的研究和应用提供了一种新的解决方案。

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

super_lsl

谢谢你的欣赏

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值