学习记录：迁移学习

参考资料：

知乎链接：迁移学习（清华大学数据科学研究院）
Sinno Jialin Pan and Qiang Yang, A survey on transfer learningKarl Weiss, Taghi M. Khoshgoftaar and DingDing Wang, A survey of transfer learning

学习工具：

Nanonets：基于云端实现的迁移学习工具

一、 相关概念

1、 迁移学习 Transfer Learning：
当训练集和测试集的分布不一致的情况下（使用西方人的人脸预测东方人），通过在训练数据上按照经验误差最小准则训练的模型在测试上性能不好，因此出现了迁移学习技术。
2、 领域自适应 Domain Adaptation：
是迁移学习中的一种代表性方法。指的是利用信息丰富的源域样本来提升目标域模型的性能。

其中的两个重要概念：
源域（source domain）：与测试样本不同的领域，但是有丰富的监督信息；
目标域（target domain）：测试样本所在的领域。无标签或者有少量标签。
根据不同阶段，提出了三种不同的领域自适应方法：样本自适应；特征层面自适应；模型层面自适应。

二、 迁移学习的