Deep Learnig(迁移学习)

一 需要迁移学习的原因

1.使用深度学习技术解决问题的过程中，最常见的障碍在于，因为模型有大量的参数需要训练，因此需要海量训练数据作支撑。
2.在面对某一领域的具体问题时，通常可能无法得到构建模型所需规模的数据。
3.借助迁移学习，在一个模型训练任务中针对某种类型数据获得的关系也可以轻松地应用于同一领域的不同问题。

二 迁移学习分类

1.原始数据有标签-目标数据有标签

(1) Model Fine-­‐tuning

a.任务状况：

b.基本思想:：
由原始的imagenet图像训练一个模型，在自己数据集上调优。
可能的问题:在小量调优数据上可能过拟合。
c.Conservative Training

d.Layer Transfer

我们应该拷贝（复用）那些层:
语音:通常是最后一些层
图像:通常是开始的一些层

(2) Multitask Learning

2.原始数据有标签-目标数据无标签

任务描述：

（1）Domain-­‐adversarial training

（2）Zero-­‐shot learning

通过属性来表征类