迁移学习：经典算法解析

一. 了解迁移学习

       迁移学习（Transfer Learning）目标是将从一个环境中学到的知识用来帮助新环境中的学习任务。 

           > The ability of a system to recognize and apply knowledge and skills learned in previous tasks to novel tasks。

       入门推荐一篇公认的比较好的 【Survey】： A Survey on Transfer Learning，Sinno JialinPan, Qiang Yang，IEEE Trans

       另外，戴文渊的硕士学位论文也可以看一下：基于实例和特征的迁移学习算法研究

 

       Survey 作者归纳了 Transfer Learning 相关的知识域，有必要了解一下这些名词：

● Learning学习 - learning to learn

● 终身学习 - life-long learning

● 知识转移 - knowledge transfer

● 归纳迁移 - inductive transfer

● 多任务学习 - multi-task learning

● 知识的巩固 - knowledge consolidation

● 上下文相关学习 - context sensitive learning

● 基于知识的归纳偏差 - knowledge-based inductive bias

● 元学习 - meta learning

● 增量学习 - and incremental/cumulative learning

 

       另外，进展及 Open Source Toolkit 可以参考：http://www.cse.ust.hk/TL/index.html

 

 

二. 迁移学习分类

       迁移学习（Transfer Learning）根据 领域 和 任务的相似性，可以这样划分： 

        

        我们根据 源Domain和目前Domain 之间的关系，源Task 和 目标Task之间的关系，以及任务方法更详细的整理为下表：

 

源Domain &  目标Domain

源Task &