TensorFlow：网络模型

对于常用的网络模型，如ResNet，VGG 等，不需要手动创建网络，可以直接从
keras.applications 子模块下一行代码即可创建并使用这些经典模型，同时还可以通过设置 weights 参数加载预训练的网络参数，非常方便。

以 ResNet50 迁移学习为例，一般将ResNet50 去掉最后一层后的网络作为新任务的特
征提取子网络，即利用ImageNet 上面预训练的特征提取方法迁移到我们自定义的数据集
上，并根据自定义任务的类别追加一个对应数据类别数的全连接分类层，从而可以在预训
练网络的基础上可以快速、高效地学习新任务。
首先利用Keras 模型乐园加载ImageNet 预训练的ResNet50 网络：

# 加载ImageNet 预训练网络模型，并去掉最后一层
resnet = keras.applications.ResNet50(weights='imagenet',include_top=False)
resnet.summary()
# 测试网络的输出
x = tf.random.normal([4,224,224,3])
out = resnet(x)

上述代码自动从服务器下载模型结构和在ImageNet 数据集上预训练好的网络参数，由于去掉最后一层，网络的输出大小为[b, 7,7,2048]。对于某个具体的任务，需要设置自定义的输出节点数，以100 类的分类任务为例，我们在 ResNet50 基础上重新构建新网络。新建一个池化层(这里的池化层可以理解为维度缩减功能)，将特征从[b, 7,7,2048]降维到[b, 2048]:

# 新建池化层
global_average_layer = layers.GlobalAveragePooling2D()
# 利用上一层的输出作为本层的输入，测试其输出
x = tf.random.normal([4,7,7,2048])
out = global_average_layer(x) # 池化层降维
print(out.shape)

最后新建一个全连接层，并设置输出节点数为 100：

# 新建全连接层
fc = layers.Dense(100)
# 利用上一层的输出作为本层的输入，测试其输出
x = tf.random.normal([4,2048])
out = fc(x)
print(out.shape)

在得到预训练的ResNet50 特征层和我们新建的池化层、全连接层后，我们重新利用
Sequential 容器封装成一个新的网络：

#重新包裹成我们的网络模型
mynet = Sequential([resnet, global_average_layer, fc])
mynet.summary()

通过设置resnet.trainable = False 可以选择冻结ResNet 部分的网络参数，只训练新建的网络层，从而快速、高效完成网络模型的训练。