【域适应论文】Maximum classifier discrepancy for unsupervised domain adaptation（MCD）论文理论

于 2024-03-03 21:34:08 发布
阅读量1.2k 收藏 11
点赞数 6
分类专栏： 迁移学习 文章标签： 人工智能 计算机视觉 迁移学习 深度学习
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/weixin_51293984/article/details/136431425
版权
该篇文章介绍了一种基于最大分类器差异的无监督领域适应方法，通过训练两个独立的分类器和一个特征生成器，以最大化分类器间的差异来处理目标样本的决策边界。实验部分展示了这种方法在分类任务中的有效性。

摘要生成于 C知道 ，由 DeepSeek-R1 满血版支持， 前往体验 >

文章目录

MCD：Maximum classifier discrepancy for unsupervised domain adaptation（CVPR 2018）

  • 已有的方法仅尝试去区分特征为源域/目标域
  • 没有考虑task-specific决策边界
  • 训练好的生成器G会产生近类别边界的模糊特征

1 Introduction

最大分类器差异的领域自适应

  • 通过最大化分类器之间的差异来学习具有相似特征表示的源域和目标域之间的映射
  • 引入两个独立的分类器F1、F2

在这里插入图片描述

  • 两个分类器试图使目标样本上的预测结果尽可能不同
  • 特征提取器的目标是生成的特征表示尽可能地减小这种差异

2 Related Work

3 Method

在这里插入图片描述

A阶段

训练出两个不同的分类器F1、F2 、特征提取器G ，训练分类器和生成器对源样本进行正确的分类。Loss即为求source domain上的分类误差。
在这里插入图片描述

B阶段

固定特征提取器G ，训练两个不同的分类器 F1和F2 ，使得它们的差异最大。如果没有这一步，两个分类器可能会变得非常相似，就不能很好的区别靠近边界的目标样本。损失函数为 L 1 L_1 L1​（两个分类器概率输出之差的绝对值）：
在这里插入图片描述

C阶段

固定两个分类器F1、F2，优化特征生成器 G ，使得生成的特征对两个分类器效果尽可能一致

4 Experiment

  • 分类实验
    在这里插入图片描述
最优传输论文（二十七）：Maximum classifier discrepancy for unsupervised domain adaptation论文原理
lyy的博客
08-31 609
文章目录前言摘要1.介绍2.Related Work3.Method3.1. Overall Idea3.2. Discrepancy Loss3.3. Training Steps3.4. Theoretical Insight4. Experiments on Classification4.1. Experiments on Toy Datasets4.2. Experiments on Digits Datasets6.Conclusion代码 前言 文章来自2018年的CVPR 本文是本人领域
域适应分类：MCD论文笔记——Maximum Classifier Discrepancy for Unsupervised Domain Adaptation
qq_50001789的博客
06-25 730
域适应分类：MCD论文笔记——Maximum Classifier Discrepancy for Unsupervised Domain Adaptation
MCD算法及代码理解:《Maximum Classifier Discrepancy for Unsupervised Domain Adaptation》
qq_30569745的博客
09-08 5377
目录MCD算法及代码理解1.背景知识2.算法思想3.算法流程4.代码理解5.实验结果6.思考 MCD算法及代码理解 这次的内容回归到了我目前的研究领域 – 迁移学习，更细的范围是领域自适应，迁移学习中最简单、最基础的一种问题设置场景。本文是发表在CVPR 2018上的一篇论文，这篇论文从一个基础理论出发，去理解域适应这个问题，并在理解、分析理论的基础上设计了本文中的MCD算法，可以说算法思想有很好...
Maximum Classifier Discrepancy for Unsupervised Domain Adaptation
qq_41206605的博客
03-30 659
Maximum Classifier Discrepancy for Unsupervised Domain Adaptation 无监督域自适应的最大分类器差异 目录Maximum Classifier Discrepancy for Unsupervised Domain AdaptationAbstractIntroduction Abstract In this work, we pres...
[论文笔记] Maximum Classifier Discrepancy for Unsupervised Domain Adaptation
weixin_44563093的博客
10-20 911
This paper introduces a new approach that attempts to align distributions of source and target by utilizing the task-specific decision boundaries
读论文《Maximum Classifier Discrepancy for Unsupervised Domain Adaptation》后的总结
qq_39463274的博客
04-01 1267
前言： 最近写论文中，由于Discussion部分的需要，于是读了这篇文章，并记录一下。 摘要： 传统的使用对抗的方法来进行特征域自适应的文章存在两个问题： 1.域分类器仅尝试区分源域或目标域，因此不考虑类之间的任务特定决策边界。因此，训练有素的生成器（特征提取器）可以在类边界附近生成模糊特征。 2.这些使用对抗的特征域自适应方法旨在完全匹配不同域之间的特征分布，但是由于每个域的独有特征，这而很难...
【最优传输论文十四】2019 CVPR-Sliced Wasserstein Discrepancy for Unsupervised Domain Adaptation
最新发布
m0_60231311的博客
07-12 900
无监督域适应大部分工作都集中在建立源域和目标域的特征分布之间的直接对齐。这种对齐涉及最小化模型学习到的特征分布的一些距离度量。更复杂的方法使用对抗性训练，通过在特征级、像素级或输出级跨域调整表示，从而提高分布之间对齐的质量。在MCD中提出了一种基于网络内对抗学习的方法，该方法包含一个特征生成器和两个(特定任务)分类器，该方法使用特定任务的决策边界来对齐源样本和目标样本。然而存在一些局限性。例如，它们的差异损失(MCD中为L1)只有在分类器的两个输出概率度量重叠时才有用。
Bi-Classifier Determinacy Maximization for Unsupervised Domain Adaptation
sinat_39207356的博客
02-14 1743
Bi-Classifier Determinacy Maximization for Unsupervised Domain Adaptation Abstract 方法：Bi-Classifier Determinacy Maximization (BCDM)。 针对问题：之前的方法通常利用双分类器之间的分歧性（disagreement）来学习可转移的表示，然而，它们往往疏忽了目标域中分类器的断定性（determinacy），这可能会导致模型缺乏特征辨别能力。 新的度量方法：Classifier
第八期_Maximum Classifier Discrepancy.pptx
09-20
Maximum Classifier Discrepancy for Unsupervised Domain Adaptation Maximum Classifier Discrepancy（MCD）是一种新的不受监督域适应方法，旨在解决域适应问题中存在的挑战，即源域和目标域之间的分布差异问题。...
[论文阅读笔记@2019.6] Maximum Classifier Discrepancy for Unsupervised Domain Adaptation
quyan的博客
12-23 4587
文章目录[论文阅读笔记@2019.6] Maximum Classifier Discrepancy for Unsupervised Domain Adaptation1. IntroductionPrevious Methods:However:Proposed Method:2. Related Work3. Method3.1 Overall Idea要让生成器的特征更远离分类边界（靠近源...
分类 迁移学习_迁移学习之最大分类器差异的无监督域适应
weixin_36358383的博客
01-15 1142
介绍一篇CVPR2018的论文Maximum Classifier Discrepancy for Unsupervised Domain Adaptation文章的背景是迁移学习，下面我们先介绍一下迁移学习，然后介绍域适应一、迁移学习目前，图片分类、语义分割等任务的正确率已经非常高了。这得益于人工标注的数据集和深度神经网络的快速发展。但是每次我们要训练一个新的任务时，都需要建立一个新的数据集。这...
《Weighted Maximum Mean Discrepancy for Unsupervised Domain Adaptation》论文阅读
big_yellow_man的博客
06-27 2634
摘要 在区域自适应（domain adaptation）中，最大平均差(maximum mean discrepancy，MMD)作为源域和目标域分布的一种差异度量方法被广泛采用，然而，现有的基于MMD的域自适应方法通常忽略了类先验分布的变化，比如跨域的类权重偏差（class weight bias across domains），对于领域适应来说是普遍存在的，作者认为这可能是由于样本选择标准和应...
[cvpr2017]Mind the Class Weight Bias: Weighted Maximum Mean Discrepancy for Unsupervised DA
MataFela的博客
08-21 3438
introduce 作者认为使用MMD（maximum mean discrepancy）来衡量source domain和target domain之间的差异不够准确，这是因为没有考虑class prior distributions（类的先验分布？），为了解决这个问题，作者提出了一个叫做weighted MMD（WMMD）的模型。（Despite the great success achie
迁移学习之最大分类器差异的无监督域适应
喜欢打酱油的老鸟
04-08 2805
https://www.toutiao.com/a6675993553413341700/ 介绍一篇CVPR2018的论文 Maximum Classifier Discrepancy for Unsupervised Domain Adaptation 文章的背景是迁移学习，下面我们先介绍一下迁移学习，然后介绍域适应 一、迁移学习 目前，图片分类、语义分割等任务的正确率已经非常高...
MCD_DA，Maximum Classifier Discrepancy for Unsupervised Domain Adaptation适合分类标签一样的场景迁移
m0_37192554的博客
03-06 801
Domain Adaptation 图像分类分割MCD_DA算法 ｜ CVPR2018Oral论文 https://baijiahao.baidu.com/s?id=1620472959356044540&wfr=spider&for=pc 1、这篇2018年域迁移的论文适合分类标签一样的场景，例如，都是0-9 的分类，因为训练过程用了同一个分类器的不同训练。 只是分类场景不同，这...
【CVPR2018】论文整理(收藏这一篇就够了)
热门推荐
木盏
06-23 6万+
CVPR作为CV界最受关注的三大顶会之一，每一个CVer都应该好好关注论文。CVPR2018在今年6月18日-22日在美国盐湖城举行。 先介绍一下CVPR2018的一些数据： 今年一共收到3303篇文章，其中979篇被录用。投录比约为29.6%。 收录论文按专家评分，分为三个层次：Poster, Spotlight, Oral。 Spotlight(亮点论文)一共有224篇，占收录论文(22...
纯干货7 Domain Adaptation视频教程（附PPT）及经典论文分享
lqfarmer的博客
06-22 4354
视频及PPT下载链接：https://pan.baidu.com/s/1i5HuusX 密码: 公众号回复“da”即可获得密码
maximum classifier discrepancy for unsupervised domain adaptation
06-28
### 回答1： 最大分类器差异是一种用于无监督域自适应的方法，它通过最大化源域和目标域之间的分类器差异来提高模型的泛化能力。该方法通过在源域和目标域之间构建一个共享的特征空间，并使用最大均值差异来对齐两个域之间的特征分布。最大分类器差异方法已经在图像分类、目标检测和语音识别等领域得到了广泛的应用。 ### 回答2： 最大分类器差异（maximum classifier discrepancy）是一种用于无监督领域适应的分类器度量方法。在无监督领域适应中，在源域和目标域之间存在着分布差异，因此我们无法直接利用源域的标记样本进行训练。而最大分类器差异方法尝试通过最小化源域和目标域之间的分类性能差异来进行域适应，从而提高在目标域上的分类性能。 在最大分类器差异方法中，我们使用分别使用源域和目标域的数据来训练两个分类器。然后，我们用两个分类器来分别对源域和目标域的数据进行分类，并计算两个分类器之间的差异。这个差异被称为最大分类器差异。最大分类器差异越小，说明源域和目标域之间的分类性能差异越小。 最大分类器差异方法的优点在于它不需要任何标记信息，因此可以更好地解决无监督领域适应问题。此外，最大分类器差异方法可以应用于各种不同类型的数据，包括图像、语音等等。 最大分类器差异方法的一个缺点是，它仅仅关注了源域和目标域之间的分类性能差异，而没有考虑其他因素。另外，最大分类器差异方法的计算复杂度较高，需要对数据进行多次训练和分类，在实际应用中可能存在一定的困难。 ### 回答3： 最大分类器差异（Maximum Classifier Discrepancy，MCD）是一种用于非监督式域适应（Unsupervised Domain Adaptation，UDA）的优化方法，用于在源域和目标域之间的差异中减少域偏移和增加分类器的鲁棒性。MCD在同类和异类样本之间寻找主要差异，并通过对样本特征进行最大投影差异来实现最佳分离。 在非监督式域适应中，我们没有目标标签可用，因此不能使用传统的监督方法进行域适应。MCD通过最大化分类器在源域和目标域之间的差异，来找到两个领域之间的分界线，并提高分类器的泛化能力。具体来说，MCD使用最大平均散度（Maximum Mean Discrepancy，MMD）来测量源域和目标域之间的相似性和差异性，即通过学习使得源域和目标域的特征分布差异最大化的映射函数，来尽可能减少领域之间的差异。 MCD还可以用于不同类型的域适应问题，包括图像领域、语音领域和自然语言处理领域。在图像领域中，MCD可以用于目标域具有不同光照、角度和尺度情况的情况下的图像分类。在语音领域和自然语言处理领域中，MCD可以帮助训练具有更好鲁棒性的语音识别模型和文本分类模型。 总之，MCD是一种用于非监督式域适应的有效工具，它能够在源域和目标域之间的差异中找到主要的差异，并提高分类器的泛化能力。同时，MCD也是一个可扩展的方法，可以应用于不同领域和问题。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值