迁移学习系列--迁移学习入门(1)

1.1 迁移学习
“温故而知新，可以为师矣”-----《论语.为政》
这句话大概的意思就是，在学习新知识的时候，如果能先对旧知识加以温习，可以获得新的理解和体会。凭借这样的能力，就可以当老师了。这意味着，在学习新知识的时候，可以寻找旧知识与新知识之间的相似点，帮助对新知识的理解和掌握。
从旧知识到新知识过程，可以看成是知识迁移。类似的引出迁移学习：
迁移学习可以利用数据、任务或模型之间的相似性，将旧领域学习过的模型和知识用于新的领域。
迁移学习与传统有监督机器学习差异：
**数据分布：**传统机器学习训练数据和测试数据服从相同分布；迁移学习训练数据和测试数据服从不同分布
**数据标注：**传统机器学习需要大量标注数据；迁移学习仅需要少量或者无标注的数据
模型：每个任务独立建模；模型可以在不同任务之间迁移
1.2 迁移学习必要性
（1）海量数据但标注数据少
（2）数据量大但计算资源有限
（3）数据量有限但需获得泛化能力强的模型
（4）通用模型与个性化模型
1.3 迁移学习研究领域
1.3.1 按特征空间分类
（1）同构迁移学习
（2）异构迁移学习
1.3.2 按监督信息分类
（1）有监督迁移学习
（2）半监督迁移学习
（3）无监督迁移学习
1.3.3 按学习方法分类
（1）基于实例的迁移学习方法
（2）基于特征的迁移学习方法
（3）基于模型的迁移学习方法
（4）基于关系的迁移学习方法