预训练模型,以vgg16为例
首先vgg16有在imagenet上预训练好的模型,加载模型并省略最后分类层(进行分离)
然后对这个模型选择前面一定数目的层参数冻结(就是参数不变了),然后再加上自己需要的层
对加上的层进行单独训练(因为之前的层已经冻结了),重新训练组合的新模型,仍然保持 VGG16设定的处于冻结状态。对这个组合进行整体训练!!保持前面冻结参数仍然不变
实际上可以直接采用预训练模型的参数作为初始化,然后直接对整体模型重新训练,也不冻结
只有当数据集较少,才完全冻结前面层不动!只训练后面的新层