深度学习中,最强大的理念之一就是迁移学习,有的时候神经网络可以从一个任务中习得知识,并将这些知识应用到另一个独立的任务中。
所以例如,也许你已经训练好一个神经网络,能够识别像猫这样的对象,然后使用那些知识,或者部分习得的知识去帮助您更好地阅读x射线扫描图,这就是所谓的迁移学习。
具体来说,在第一阶段训练过程中,当你进行图像识别任务训练时,你可以训练神经网络的所有常用参数,所有的权重,所有的层,然后你就得到了一个能够做图像识别预测的网络。
在训练了这个神经网络后,要实现迁移学习,你现在要做的是,把数据集换成新的(x,y)对,现在这些变成放射科图像,而y是你想要预测的诊断,你要做的是初始化最后一层的权重,让我们称之为w([L])和b([L])随机初始化。
现在,我们在这个新数据集上重新训练网络,在新的放射科数据集上训练网络。
要用放射科数据集重新训练神经网络有几种做法。
你可能,如果你的放射科数据集很小,你可能只需要重新训练最后一层的权重,就是w([L])和b([L]),并保持其他参数不变。
如果你有足够多的数据,你可以重新训练神经网络中剩下的所有层。