迁移学习概念

本文仅用于自我学习,详细内容请看【精读文献】迁移学习之域自适应前沿论文带读-1_哔哩哔哩_bilibili

目录

1. 什么是迁移学习

2. 核心思想

​编辑3. 基本概念

4. 领域自适应(Domain Adaptation) DA

 5. 方法讲解

1. 什么是迁移学习

通过减少源域数据和目标域数据之间的分布差异,进行知识迁移,从而完成学习任务。

2. 核心思想

找到不同域之间的相关性,进行有效的知识迁移。

3. 基本概念

  • 域:由数据分布和特征分布组成,是学习的主体。
    • 源域:已有知识的域。
    • 目标域:要进行学习的域。
  • 任务:由目标函数和学习结果组成,是学习的结果。

4. 领域自适应(Domain Adaptation) DA

  • 问题定义:有标签的源域和无标签的目标域共享相同的特征和类别,但特征分布不用,如何利用源域标定目标域。

可以看到上面图片中的内容虽然属于同一种类,但是有特征分布有明显的不同。

  • 按照目标域有无标签分类:
    • 目标域全部有标签:supervised DA
    • 目标域有一些标签:semi-supervised DA
    • 目标域全没有标签:unsupervised DA
  • 基本假设
    • 数据分布角度:源域和目标域的概率分布相似
      • 最小化概率分布距离
    • 特征选择角度:源域和目标域共享着某些特征
      • 选择出这部分公共特征
    • 特征变换角度:源域和目标域共享某些子空间
      • 把两个域变化到相同的子空间。
  • 解决思路
    • 数据分布:概率分布适配法
    • 特征选择:特征选择法
    • 特征变换:子空间学习法

 5. 方法讲解

 MMD是一种度量距离的方式。

labeled images 是源域,也是Xs,unlabeled images 是目标域Xt。

Gf 特征提取· 

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值