领域适应domain adaptation 学习笔记

最新推荐文章于 2023-05-30 16:47:01 发布
VIP文章 最新推荐文章于 2023-05-30 16:47:01 发布
阅读量705 收藏 1
点赞数 1
分类专栏： 算法笔记
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/leah123123/article/details/109391834
版权

domain adaptation经典方法

在source domain有大量fully labeled数据，target domain 有不完全labeled数据，两个domain 之间有gap存在（跨domain测试效果很差），如何利用source上的数据训练适应于target domain的模型呢？
回答：想办法让他们投影到相同的特征空间

ps：以下内容属于homogeneous domain adaptation，图对图，声对声

discrepancy-based method

用pre-defined参数来使源域和目标域的feature相似

  1. deep domain confusion 2014
    要让目标域和源域的各类别特征空间重合
    计算目标域和源域的feature 距离，叫做maximum mean discrepancy，加入loss中

  2. deep adaptation networks 2015
    1是在fc之前算mmd，2是在高层和低层都算了mmd

  3. coral
    使用2nd order mmd
    CMD使用更高阶数的mmd

adversarial based method

分辨feature 是从target还是source，用domain classifier对抗训练extractor（用的最多的）

  1. simultaneous deep transfer across domains

最低0.47元/天 解锁文章
leeeeeeeeeah
关注
  • 1
    点赞
  • 踩
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
An introduction to domain adaptation and transfer learning.pdf
09-18
域适应和迁移学习介绍 深度学习 机器学习 transfer learning
Optimal Transport for Domain Adaptation
12-20
Domain adaptation is one of the most challenging tasks of modern data analytics. If the adaptation is done correctly, models built on a specific data representation become more robust when confronted ...
领域自适应（Domain Adaptation）的简单介绍
百年孤独百年的博客
05-30 7568
领域自适应（Domain Adaptation）是指通过学习源领域和目标领域之间的差异，来实现将源领域的模型迁移到目标领域的能力。在实际应用中，由于数据的获取和标注成本较高，我们通常会面临数据集不完整、不平衡、标注不准确等问题，这些问题会影响模型的泛化能力和性能。领域自适应可以帮助我们解决这些问题，提升模型的泛化能力和性能。
Domain Adaptation（领域自适应，MMD，DANN）
nakaizura
12-26 3万+
Domain Adaptation 现有深度学习模型都不具有普适性，即在某个数据集上训练的结果只能在某个领域中有效，而很难迁移到其他的场景中，因此出现了迁移学习这一领域。其目标就是将原数据域（源域，source domain）尽可能好的迁移到目标域（target domain），Domain Adaptation任务中往往源域和目标域属于同一类任务，即源于为训练样本域（有标签），目标域为测集域，其测试集域无标签或只有少量标签，但是分布不同或数据差异大，具体根据这两点可以划分为： homogeneous .
【李宏毅机器学习】Domain Adaptation 域适应
发现问题，并解决问题，批判性思维
10-23 2007
我们希望特征处理器feature extractor处理source domain和target domain data后的向量，两者的向量分布都是差不多的（如上图的右下角，颜色接近）。迁移学习能解决很多时候训练集和测试集存在数据分布差异的问题，迁移学习的一种方法——domain adaptation域自适应，一般是表示域不同（数据集集合），但任务相同。fine-tune（微调）：是对已经训练好的模型，把整个这个模型放到另一个数据集上继续进行训练（其中参数继续发生变化）
域适应（domain adaptation）
如果想成为中心，那么就到中心去吧。
05-22 3万+
文章目录导读前言域适应类别任务相关性一步域适应技术及其应用基于散度的域适应基于对抗的域适应基于重建的域适应结论 导读 在迁移学习中， 当源域和目标的数据分布不同 ，但两个任务相同时，这种特殊的迁移学习叫做域适应 （Domain Adaptation，DA ）。因为其任务相同，域适应属于一种直推式迁移学习。在计算机视觉中，域适应是一个常见要求，因为带有标注的数据集很容易取得，但是获得的数据集和我们最终应用的数据集来源的域往往是不同的。那么解决这类问题的思路是什么呢？请看 AI 前线翻译的这篇文章，希望能有所启
域适应（Domain Adaptation）综述
weixin_45836130的博客
09-05 4058
有一种方法如下图所示，我们有许多无标签的数据，它们经过Feature Extractor和Label Predictor后，不知道属于哪个类别，但希望离边界越远越好，离边界远的意思就是输出的结果非常集中，集中在某一个类别上，离边界近的意思是输出的结果的每一个类别都非常接近，不知道属于哪类。假设我们在训练集上训练黑底白字的手写数字集后（如下图），再把它用在同样是黑底白字的测试集上所得到的效果非常好（99.5%），但是如果把它用在有颜色的数字上的时候，它的效果就没之前那么好了（57.5%）。
domainAdaptation
03-25
domainAdaptation
论文笔记：Cluster Alignment with a Teacher for Unsupervised Domain Adaptation
01-06
Profile  最近因为个人需要看了一些 DADADA 和 DRDRDR 的文章。  这篇文章比较有意思的是：将聚类设计成目标函数，从而一方面实现经网络抽取特征在分布上的自然聚类，一方面因为特征分布的聚类自然提高了分类效果...
文献笔记2Multi-source domain adaptation
最新发布
09-30
《Multi-source domain adaptation for decoder calibration of intracortical brain-machine interface》
迁移学习Adversarial-discriminative-domain-adaptation
12-09
作者提出了一个统一的无监督对抗域适应性框架，分别对三基本模型、是否权值共享、损失函数设计选择做出来讨论。dversarial-discriminative-domain-adaptation
DomainClassifier:DomainClassifier是一个Python（23）库，用于根据原始DNS的存在，本地化或属性从原始非结构化文本文件中提取和分类Internet域名主机名IP地址。
05-03
域分类器 DomainClassifier是一个简单的Python库，用于根据原始非结构化文本文件的存在，本地化或属性来提取和分类Internet域/主机名/ IP地址。 DomainClassifier可用于从任何自由文本或收集的非结构化信息中提取Internet主机。 也提供无源dns输出。 安装 是pypi包的一部分。 可以使用pip命令安装它： pip install DomainClassifier In [ 11 ]: c = DomainClassifier . domainclassifier . Extract ( rawtext = "www.google.com foo.bar ppp.ppp" ) In [ 12 ]: c . potentialdomain () Out [ 12 ]: [ 'www.google.com' , 'foo.bar' ] 如何使
【Bias 04】Adversarial Feature Disentanglement for Place Recognition Across Changing Appearance
qq_40731332的博客
11-22 475
Abstract & Introduction Visual place recognition: 给不同环境下的一系列图片，找到一对相同位置图片的联系。特征提取是这个任务的关键，因为appearance是改变的，需要找到不变的特征。 本文提出分离domain-unrelated feature（place feature）和domain-related feature（appearance feature），其中domain-unrelated feature去place recognitio
领域自适应（Domain adaptation）——源域和目标域并不独立同分布
qq_41652258的博客
11-26 1万+
网上很多大佬的文章都写的很好，我引用了他们的一部分，所以在此列出并感谢各位大佬： https://zhuanlan.zhihu.com/p/21441807 https://blog.csdn.net/u013841196/article/details/80957057 领域自适应所要解决的问题是：当源域和目标域并不是独立同分布时，经典机器学习会出现过拟合问题，分类器的性能不好。 领域自...
Domain Adaptation总结（2017.9）
MataFela的博客
09-03 2万+
有一篇论文（[cvpr2017]Joint Geometrical and Statistical Alignment for Visual Domain Adaptation ）对Domain Adaptation做了一定的总结，我直接把我当时的翻译抄一下： 常见的域适应包括基于实例（instance-based）的适应、基于特征表示( feature representation）的适应、
一文读懂领域迁移与领域适应的常见方法
Paper weekly
03-29 8115
©PaperWeekly 原创 ·作者｜Chen单位｜追一科技AI Lab研究员研究方向｜领域迁移、领域适应领域迁移问题的背景及描述在使用机器学习、人...
迁移学习-PixelDA-Unsupervised Pixel–Level Domain Adaptation with Generative Adversarial Networks
forever1993的博客
10-31 4874
文章阅读 摘要Unsupervised Pixel–Level Domain Adaptation with Generative Adversarial Networks
领域适应学习(domain adaptation）
wydbyxr的博客
09-30 1万+
领域适应学习(domain adaptation）   iid（独立同分布） 为了解决训练集和测试集的数据分布不匹配（即不满足iid条件），在无监督学习中提出了domain adaptation（领域自适应） 。   领域自适应（Domain Adaptation）是迁移学习（Transfer Learning）的一种，思路是将不同领域（如两个不同的数据集）的数据特征映射到同一个特征空间，这样可利...
迁移学习——Domain Adaptation
热门推荐
小花生的博客
07-08 5万+
Domain Adaptation 在经典的机器学习问题中，我们往往假设训练集和测试集分布一致，在训练集上训练模型，在测试集上测试。然而在实际问题中，测试场景往往非可控，测试集和训练集分布有很大差异，这时候就会出现所谓过拟合问题：模型在测试集上效果不理想。 以人脸识别为例，如果用东方人人脸数据训练，用于识别西方人，相比东方人识别性能会明显下降。 当训练集和测试集分布不一致的情况下，通过在训练...
迁移学习domain adaptation
05-16
在机器学习领域中，由于数据来源、分布、数量等方面的不同，常常需要进行领域自适应（Domain Adaptation）来解决训练数据与测试数据的分布不同的问题。 领域自适应技术（Domain Adaptation）是指将模型从一个源领域...

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值