本文仅用于自我学习,详细内容请看【精读文献】迁移学习之域自适应前沿论文带读-1_哔哩哔哩_bilibili
目录
4. 领域自适应(Domain Adaptation) DA
1. 什么是迁移学习
通过减少源域数据和目标域数据之间的分布差异,进行知识迁移,从而完成学习任务。
2. 核心思想
找到不同域之间的相关性,进行有效的知识迁移。
3. 基本概念
- 域:由数据分布和特征分布组成,是学习的主体。
- 源域:已有知识的域。
- 目标域:要进行学习的域。
- 任务:由目标函数和学习结果组成,是学习的结果。
4. 领域自适应(Domain Adaptation) DA
- 问题定义:有标签的源域和无标签的目标域共享相同的特征和类别,但特征分布不用,如何利用源域标定目标域。
可以看到上面图片中的内容虽然属于同一种类,但是有特征分布有明显的不同。
- 按照目标域有无标签分类:
- 目标域全部有标签:supervised DA
- 目标域有一些标签:semi-supervised DA
- 目标域全没有标签:unsupervised DA
- 基本假设
- 数据分布角度:源域和目标域的概率分布相似
- 最小化概率分布距离
- 特征选择角度:源域和目标域共享着某些特征
- 选择出这部分公共特征
- 特征变换角度:源域和目标域共享某些子空间
- 把两个域变化到相同的子空间。
- 数据分布角度:源域和目标域的概率分布相似
- 解决思路
- 数据分布:概率分布适配法
- 特征选择:特征选择法
- 特征变换:子空间学习法
5. 方法讲解
MMD是一种度量距离的方式。
labeled images 是源域,也是Xs,unlabeled images 是目标域Xt。
Gf 特征提取·