一. 了解迁移学习
迁移学习(Transfer Learning)目标是将从一个环境中学到的知识用来帮助新环境中的学习任务。
> The ability of a system to recognize and apply knowledge and skills learned in previous tasks to novel tasks。
入门推荐一篇公认的比较好的 【Survey】: A Survey on Transfer Learning,Sinno JialinPan, Qiang Yang,IEEE Trans
另外,戴文渊的硕士学位论文也可以看一下:基于实例和特征的迁移学习算法研究
Survey 作者归纳了 Transfer Learning 相关的知识域,有必要了解一下这些名词:
● Learning学习 - learning to learn
● 终身学习 - life-long learning
● 知识转移 - knowledge transfer
● 归纳迁移 - inductive transfer
● 多任务学习 - multi-task learning
● 知识的巩固 - knowledge consolidation
● 上下文相关学习 - context sensitive learning
● 基于知识的归纳偏差 - knowledge-based inductive bias
● 元学习 - meta learning
● 增量学习 - and incremental/cumulative learning
另外,进展及 Open Source Toolkit 可以参考:http://www.cse.ust.hk/TL/index.html
二. 迁移学习分类
迁移学习(Transfer Learning)根据 领域 和 任务的相似性,可以这样划分:
我们根据 源Domain和目前Domain 之间的关系,源Task 和 目标Task之间的关系,以及任务方法更详细的整理为下表: