迁移学习

第一阶段：训练

进行图像识别时，训练神经网络中所有的常用参数，就得到一个能够做图像识别的网络

第二阶段：

在训练完以上网络之后，要实现迁移学习，要做的就是把数据集换成新的X，Y对。现在把这些变成放射科图像，而Y是你想要预测的诊断。我们要做的就是吧最后一层权重随机初始化，然后在这个新的数据集上重新训练网络。若放射科图像数据集很小，则之重新训练最后一层的权重并保持其他参数不变；若有足够的数据，可以重新训练神经网络中剩下的所有层。

预训练：在图像识别数据的初期训练阶段，叫做预训练

微调：在放射科数据集上的训练叫做微调

 

迁移学习能起作用的原因：

有很多低层次特征，比如边缘检测、曲线检测，从非常大的图像识别数据库中学习这些能力可能有助于学习算法在放射科诊断上做得很好。算法学习到了很多结构信息，图像形状信息，其中一些知识可能会很有用，有助于迁移到其他任务，学习的更快一些或者需要更少的学习数据

 

迁移学习存在的意义：

对于源问题我们有很多数据，但是目标问题我们可能没有那么多数据

从任务A学习并迁移一些知识到任务B，当A和B都有相同的输入X时是有意义的，上面的例子，X都是图像

任务A的低层次特征可以帮助任务B的学习