深度学习基础（十）迁移学习

参考文章
零样本学习–一文先了解
迁移学习综述

什么是迁移学习

传统的机械学习就是针对不同任务分别进行学习，当训练数据发生变化时需要重新训练系统。

迁移学习则是通过在源任务中学习得到的知识用来帮助新任务目标的学习，能够实现在新任务的较少训练数据时，也能达到比较好的训练效果。

层迁移Layer Transfer

语音识别替换后几层（全连接层或者最后的分类层）
图像识别替换前几层（卷积层）

原始（数据集）有标签，目标有标签

1、Fine-tune

2、Multitask Learning

原始（数据集）有标签，目标无标签

1、域对抗 Doman-adversarial training
参考GAN模式，引入domain分类器（类似于判别器）通过判别器对所有的样本进行判别，判定是否属于同一类，通过反向传播对原有的神经网络进行改进。**使得最后的domain classifier无法分辨哪些是源数据集，哪些是新的数据集。**可以理解为重新进行另外形式的特征提取。