冻结权重
示例:
这里使用的是tensorflow内置的Xception模型,然后将预训练模型的前100层冻结,训练后32层,加入全局平均池化层和输出层
covn_base = tf.keras.applications.xception.Xception(weights='imagenet',include_top=False)
covn_base.trainable = True
for layers in covn_base.layers[:-32]:
layers.trainable = False
model = tf.keras.Sequential()
model.add(covn_base)
model.add(tf.keras.layers.GlobalAveragePooling2D())
model.add(tf.keras.layers.Dense(200))
model.summary()
总结:
covn_base.trainable = True
把trainable设置为True,意思就是在训练时,会更新权重。但是如果把它设置成False,就是在训练中不更新权重,也就是我们常说的冻结权重。
covn_base = tf.keras.applications.xception.Xception(weights='imagenet',include_top=False)
covn_base.trainable = True
下面代码的意思就是冻结最后32层之前的网络权重,而只训练最后32层网路的权重
covn_base = tf.keras.applications.xception.Xception(weights='imagenet',include_top=False)
covn_base.trainable = True
for layers in covn_base.layers[:-32]:
layers.trainable = False
下面应该是创建一个可以存放网络层的一个序列
model = tf.keras.Sequential()
添加原始网络模型
model.add(covn_base)
在原始模型的最后,添加一些我们自己定义的网络层,最后将模型打包。
这便完成了对一个模型的迁移学习
model.add(tf.keras.layers.GlobalAveragePooling2D())
model.add(tf.keras.layers.Dense(200))
model.summary()