深度学习之----迁移学习

1.迁移学习指的是，通过对预训练模型的参数进行微调，将训练好的模型应用到相似或者只有细微差异的不同任务中。通过这个方法，我们可以基于一些性能顶尖的深度学习模型得到别的高性能模型。

2.Data augmentation。训练一个如此巨大的神经网络(100billion个参数)，如果没有充分的训练数据，模型将很大可能陷入过拟合，所以需要采用众多data augmentation方法增加训练数据，例如：剪裁，不同大小，调亮度，饱和度，对比度，偏色等(color casting, vignetting, lens distortion, rotation, flipping, cropping)。举个例子，一个彩色图片，增减某个颜色通道的intensity值，就可以生成多张图片，但这些图片和原图的类目是一致的，相当于增加了训练数据。