我的迁移学习笔记——以《A Survey on Transfer Learning》为起点

最新推荐文章于 2022-12-24 17:00:00 发布

凶恶的大恐龙

最新推荐文章于 2022-12-24 17:00:00 发布

阅读量423

点赞数 1

文章标签：迁移学习

本文链接：https://blog.csdn.net/qq_41652258/article/details/103115070

版权

初学迁移学习，以这篇论文作为起点拓展自己在迁移学习领域的知识，以后会在这篇博客中添加新的内容或以超链接的形式不断更新，算是储存自己迁移学习知识的小仓库吧，肯定有很多错误，请大家批评指正。

迁移学习：利用源域和目标域来提高目标预测函数 $f_{T}(\cdot )$ 的表现，其中源域与目标域不同，或者源任务与目标任务不同。

迁移学习的三种类型及简介
归纳式迁移学习	利用源域和源任务来提高目标预测函数 $f_{T}(\cdot )$ 的表现，其中源任务与目标任务不同。
直推式迁移学习	利用源域和源任务来提高目标预测函数 $f_{T}(\cdot )$ 的表现，其中源域与目标域不同，源任务和目标任务相同，而且目标域未标注数据中有一部分在训练时就已经是可用的。
无监督迁移学习	利用源域和源任务来提高目标预测函数 $f_{T}(\cdot )$ 的表现，但是源域和目标域都没有已标注数据可以使用。

其中各自与源域、目标域的关系

	相关领域	源域与目标域	源任务与目标任务	源域已标注数据	目标域已标注数据	任务
归纳式迁移学习	多任务学习	相同	有关	可用	可用	回归、分类
归纳式迁移学习	自学习	相同	有关	不可用	可用	回归、分类
直推式迁移学习		有关	相同	可用	部分可用	回归、分类
无监督迁移学习		有关	有关	不可用	不可用	聚类

根据迁移学习的方法不同，把迁移学习的方法分为四种：

迁移学习	定义
基于实例的迁移学习	通过对一部分源域中的数据重新赋权来得到新模型
基于特征的迁移学习	寻找一种“好”的表示特征的方法来使得源域和目标域之间的差异变小，降低分类和回归模型的误差
基于参数的迁移学习	发现源域和目标域中共享的参数或先验关系，并从中受益
基于关系的迁移学习	建立从源域到目标域的知识映射

根据不同方法在不同分类中的使用：