1.fine-tune的基本思想:
不使用随机数来初始化,而使用之前已经创建好的模型来做初始化
2.使用fine-tune的步骤:
第一步:save models
创建model文件夹,并用saver保存文件:
并不是每一次训练都保存,这里设置为每100步保存一次:
效果:
可以在文件夹中看到所保存的文件:
以上~ 第一步 save models就做完了 ~
第二步:restore models
如何用保存的参数(ckp)来初始化我们自己的模型:
ckp是check points的简称
(1)指定要ckp的名字:
(2)判断文件是否存在:
效果:
以上~第二步完成
第三步:保持一些层次不变,来看另外的一些层次:
一般是保持底层的层次不变然后来看高层的层次:
效果:看程序是否能够正常运行来判断代码是否正确
以上~fine-tune调参完成 ~
附:fine-tune应用场景和作用:
https://www.cnblogs.com/andre-ma/p/8676186.html