keras load_weights fine-tune

keras 源码为keas/engine/network.py-->class Network(layer)-->load_weights()

load_weights(self, filepath, by_name=False,skip_mismatch=False, reshape=False):

函数功能:

   从被保存的h5文件中,加载所有层的权重

参数:

filpath: h5文件的路径

by_name: bool值, 默认=false,根据网络的拓扑结构加载权重,意味着自己构造的网路结构必须与h5文件的网络结构完全相同,当然了,因为有些层是没有权重的,网络结构一般不考虑这些这些无权重层,因此自己构造的网络中可以增添或删除不含权重的层.

   当by_name=True时, 在fine-tuning和迁移学习的时候,因为我们自己写的网络结构不见得与h5文件具有相同的结构, 这个时候当我们希望用到预训练模型的时候,就可以设置by_name=True, 此时自己构造的网络与原网络中具有相同名字的层的权重将被加载.

skip_mismatch:bool值, 这个只有在by_name=True时才会生效, 当具有相同名字的层的权重个数或形状不一样时,就不加载这些权重.

reshape: 当加载时遇到权重维度不一样但个数一致时,就把权重reshape.

 

一个小技巧

构建网络模型的时候,不要怕麻烦,给每一层都定义一个名字,这样在复用之前的参数权重的时候,除了官网给的先加载权重,再冻结权重之外,你可以通过简单的修改层的名字大达到加载之前训练的圈中的目的,假设权重文件保存为model_pretrain.h5,重新使用的时候,我把想要复用的层的名字设置成一样的,然后

model.load_weights('model_pretrain.h5', by_name=True)