2020-7-20 吴恩达DL学习-C3结构化ML项目-w2 ML策略2(2.7 迁移学习-替换最后一层或者几层，重新训练。为什么有效/什么时候有效。)

1.视频网站：mooc慕课https://mooc.study.163.com/university/deeplearning_ai#/c
2.详细笔记网站(中文)：http://www.ai-start.com/dl2017/
3.github课件+作业+答案：https://github.com/stormstone/deeplearning.ai

2.7 迁移学习 Transfer learning

DL中，最强大的理念之一就是，有的时候NN可以从一个任务中习得知识，并将这些知识应用到另一个独立的任务中。所以例如，也许你已经训练好一个NN，能够识别像猫这样的对象，然后使用那些知识，或者部分习得的知识去帮助您更好地阅读X射线扫描图，这就是所谓的迁移学习。

假设你用一个NN在(x,y)对上训练，其中$x$是图像，$y$是某些对象，图像是猫、狗、鸟或其他东西。如果你把这个NN拿来，然后让它适应或者说迁移，在不同任务中学到的知识，比如放射科诊断，就是说阅读X射线扫描图。

如下图，你可以做的是把NN最后的输出层拿走，就把它删掉，还有进入到最后一层的权重删掉，然后为最后一层重新赋予随机权重，然后让它在放射诊断数据上训练。

具体来说，
step1: 在第一阶段训练过程中，当你进行图像识别任务训练时，你可以训练NN的所有常用参数，所有的权重，所有的层，然后你就得到了一个能够做图像识别预测的网络。

step2: 在训练了这个NN后，要实现迁移学习，你现在要做的是，把数据集换成新的(x,y)对，现在这些变成放射科图像，而$y$是你想要预测的诊断，你要做的是初始化最后一层的权重，让我们称之为$W^{[L]}$和$b^{[L]}$随机初始化。

现在，我们在新的放射科数据集上训练网络。

要用放射科数据集重新训练NN有几种做法。
如果你的放射科数据集很小，你可能只需要重新训练最后一层的权重，就是$W^{[L]}$和$b^{[L]}$并保持其他参数不变。如果你有足够多的数据，你可以重新训练NN中剩下的所有层。经验规则是，

• 如果你有一个小数据集，就只训练输出层前的最后一层，或者也许是最后一两层。
• 如果你有很多数据，那么也许你可以重新训练网络中的所有参数。

如果你重新训练NN中的所有参数，那么这个在图像识别数据的初期训练阶段，有时称为预训练（pre-training），因为你在用图像识别数据去预先初始化，或者预训练NN的权重。更新所有权重后，再在放射科数据上训练，有时这个过程叫微调（fine tuning）。如果你在深度学习文献中看到预训练和微调，你就知道它们说的是这个意思，预训练和微调的权重来源于迁移学习。

为什么这样做有效果呢?

在这个例子中你做的是，把图像识别中学到的知识应用或迁移到放射科诊断上来，为什么这样做有效果呢？

有很多低层次特征，比如说边缘检测、曲线检测、阳性对象检测（positive objects），从非常大的图像识别数据库中习得这些能力可能有助于你的学习算法在放射科诊断中做得更好。算法学到了很多结构信息，图像形状的信息，其中一些知识可能会很有用，所以学会了图像识别，它就可能学到足够多的信息，可以了解不同图像的组成部分是怎样的，学到线条、点、曲线这些知识，也许对象的一小部分，这些知识有可能帮助你的放射科诊断网络学习更快一些，或者需要更少的学习数据。

上图是另一个例子。
假设你已经训练好一个语音识别系统，$x$是音频或音频片段输入，而$y$是输出的文本(ink transcript)，即，根据音频输入让系统输出成文本。

现在假设你想搭建一个“唤醒词”或“触发词”检测系统，所谓唤醒词或触发词就是我们说的一句话，可以唤醒家里的语音控制设备，比如你说“Alexa”可以唤醒一个亚马逊Echo设备,或用“OK Google”来唤醒Google设备，用"Hey Siri"来唤醒苹果设备，用"你好百度"唤醒一个百度设备。

要做到这点，

• 你可能需要去掉NN的最后一层，然后加入新的输出节点。
• 有时你可以不只加入一个新节点，或者甚至往你的NN加入几个新层，然后把唤醒词检测问题的标签$y$喂进去训练。
• 再次，这取决于你有多少数据，你可能只需要重新训练网络的新层，也许你需要重新训练NN中更多的层。

迁移学习什么时候是有意义的呢？

迁移学习起作用的场合是，在迁移来源问题中你有很多数据，但迁移目标问题你没有那么多数据。

例如，假设图像识别任务中你有1百万个样本，数据相当多。可以学习低层次特征，可以在NN的前面几层学到如何识别很多有用的特征。但是对于放射科任务，也许你只有一百个样本，数据很少，也许只有100次X射线扫描，所以你从图像识别训练中学到的很多知识可以迁移，并且真正帮你加强放射科识别任务的性能，即使你的放射科数据很少。

对于语音识别，也许你已经用10,000小时数据训练过你的语言识别系统，这数据量其实很多了。但对于触发字检测，也许你只有1小时数据，这数据太小，不能用来拟合很多参数。所以在这种情况下，预先学到很多人类声音的特征人类语言的组成部分等等知识，可以帮你建立一个很好的唤醒字检测器，即使你的数据集相对较小。对于唤醒词任务来说，至少数据集要小得多。

所以在这两种情况下，你从数据量很多的问题迁移到数据量相对小的问题。然而反过来的话，迁移学习可能就没有意义了。

比如，你用100张图训练图像识别系统，然后有100甚至1000张图用于训练放射科诊断系统，人们可能会想，为了提升放射科诊断的性能，那么用放射科图像训练可能比使用猫和狗的图像更有价值，所以100甚至1000张图用于训练放射科诊断系统的每个样本价值比100张图训练图像识别系统要大得多，至少就建立性能良好的放射科系统而言是这样。

所以，如果你的放射科数据更多，那么你100张猫猫狗狗或者随机物体的图片肯定不会有太大帮助，因为来自猫狗识别任务中的每一张图的价值肯定不如一张射线扫描图有价值，对于建立良好的放射科诊断系统而言是这样。

从上面的例子，你可以了解，从数据量很小的问题迁移到数据量相对大的问题，迁移学习可能不会有害，但也别指望这么做可以带来有意义的增益。

同样，如果你用10小时数据训练出一个语音识别系统。然后你实际上有10个小时甚至更多，比如说50个小时唤醒字检测的数据，你知道迁移学习有可能会有帮助，也可能不会，也许把这10小时数据迁移学习不会有太大坏处，但是你也别指望会得到有意义的增益。

总结

总结一下，什么时候迁移学习是有意义的？

① 如果你想从任务$A$学习并迁移一些知识到任务$B$，那么当任务$A$和任务$B$都有同样的输入$x$时，迁移学习是有意义的。在第一个例子中，$A$和$B$的输入都是图像，在第二个例子中，两者输入都是音频。

Task A and B have the same input x.

② 当任务$A$的数据比任务$B$多得多时，迁移学习意义更大。所有这些假设的前提都是，你希望提高任务$B$的性能，因为任务$B$每个数据更有价值，对任务$B$来说通常任务$A$的数据量必须大得多，才有帮助，因为任务$A$里单个样本的价值没有比任务$B$单个样本价值大。

You have a lot more data for Task A than Task B.

③ 如果你觉得任务$A$的低层次特征，可以帮助任务$B$的学习，那迁移学习更有意义一些。

Low level features from A could be helpful for learning B.

在前面两个例子中，也许学习图像识别教给系统足够多图像相关的知识，让它可以进行放射科诊断，也许学习语音识别教给系统足够多人类语言信息，能帮助你开发触发字或唤醒字检测器。