模型微调

 

什么是模型的微调？

使用别人训练好的网络模型进行训练，前提是必须和别人用同一个网络，因为参数是根据网络而来的。当然最后一层是可以修改的，因为我们的数据可能并没有1000类，而只有几类。把最后一层的输出类别和层的名称改一下就可以了。用别人的参数、修改后的网络和自己的数据进行训练，使得参数适应自己的数据，这样一个过程，通常称之为微调（fine tuning). 

微调时候网络参数是否更新？

        更新，finetune的过程相当于继续训练，跟直接训练的区别是初始化的时候： 
　　 a. 直接训练是按照网络定义指定的方式初始化（如高斯随机初始化） 
　　b. finetune是用你已经有的参数文件来初始化（就是之前训练好的caffemodel）