迁移学习笔记归纳梳理（参考：迁移学习简明手册）

手册地址：http://jd92.wang/assets/files/transfer_learning_tutorial_wjd.pdf

目录：（超链接）

暂时省略。。。

 

一、迁移学习的基本概念

1、为什么需要迁移学习？

2、迁移学习如何解决问题？

3、与已有概念的区别和联系

1. 迁移学习 VS 传统机器学习： 迁移学习属于机器学习的一类，但它在如下几个方面有别于传统的机器学习 (表 2)：

2. 迁移学习 VS 多任务学习：多任务学习指多个相关的任务一起协同学习；迁移学习则强调知识由一个领域迁移到 另一个领域的过程。迁移是思想，多任务是其中的一个具体形式。 

3. 迁移学习 VS 终身学习： 终身学习可以认为是序列化的多任务学习，在已经学习好若干个任务之后，面对新的任 务可以继续学习而不遗忘之前学习的任务。迁移学习则侧重于模型的迁移和共同学习。

4. 迁移学习 VS 领域自适应： 领域自适应问题是迁移学习的研究内容之一，它侧重于解决特征空间一致、类别空间一 致，仅特征分布不一致的问题。而迁移学习也可以解决上述内容不一致的情况。

5. 迁移学习 VS 增量学习： 增量学习侧重解决数据不断到来，模型不断更新的问题。迁移学习显然和其有着不同 之处。

6. 迁移学习 VS 自我学习： 自我学习指的是模型不断地从自身处进行更新，而迁移学习强调知识在不同的领域间 进行迁移。

7. 迁移学习 VS 协方差漂移： 协方差漂移指数据的边缘概率分布发生变化。领域自适应研究问题解决的就是协方差 漂移现象。

4、负迁移

要理解负迁移，首先要理解什么是迁移学习。

迁移学习指的是，利用数据和领域之间存在的相似性关系，把之前学习到的知识，应用于新的未知领域。

迁移学习的核心问题是，找到两个领域的相似性。找到了这个相似性，就可以合理地利用，从而很好地完成迁移学习任务。

如果这个相似性找的不合理，也就是说，两个领域之间不存在相似性，或者基本不相似，那么，就会大大损害迁移学习的效果。

·负迁移指的是，在源域上学习到的知识，对于目标域上的学习产生负面作用。 

解决：Transitive transfer learning（传递迁移学习）