tf.layers.separable_conv2d

最新推荐文章于 2024-08-06 22:08:46 发布

MatthewHsw

最新推荐文章于 2024-08-06 22:08:46 发布

阅读量2.1k

点赞数 3

分类专栏： tensorflow 文章标签： tensorflow depthwise

本文链接：https://blog.csdn.net/Murdock_C/article/details/84798440

版权

本文介绍了TensorFlow中的tf.layers.separable_conv2d API，该API用于实现深度可分离卷积，常见于MobileNet V1和V2。深度可分离卷积包括depthwise卷积和pointwise卷积两部分，降低了计算复杂度和参数数量。首先，通过大小为的卷积核进行depthwise卷积，然后使用大小为的卷积核进行pointwise卷积，以减少传统卷积的计算量和参数数量。

摘要由CSDN通过智能技术生成

tensorflow里的深度可分离卷积的实现API. 也即是MobileNet V1和V2里提到的depthwise conv + pointwise conv. 函数接口:

@tf_export('layers.separable_conv2d')
def separable_conv2d(inputs,
                     filters,
                     kernel_size,
                     strides=(1, 1),
                     padding='valid',
                     data_format='channels_last',
                     dilation_rate=(1, 1),
                     depth_multiplier=1,
                     activation=None,
                     use_bias=True,
                     depthwise_initializer=None,
                     pointwise_initializer=None,
                     bias_initializer=init_ops.zeros_initializer(),
                     depthwise_regularizer=None,
                     pointwise_regularizer=None,
                     bias_regularizer=None,
                     activity_regularizer=None,
                     depthwise_constraint=None,
                     pointwise_constraint=None,
                     bias_constraint=None,
                     trainable=True,
                     name=None,
                     reuse=None):

filters和平常的conv2d参数一样,即最后得到的输出channel数. 这个函数做了两步操作(个人理解,不知道究竟对不对):

首先使用大小为kernel_size大的卷积核做depthwise操作, 卷积核的初始化方式依赖于传递的参数depthwise_initializer
接着使用1x1大小的卷积核做pointwise conv, 卷积核的初始化方式依赖于传递的参数pointwise_initializer.
假设函数inputs输入通道数为M,则第一步中,一共有M个kernel_size X kernel_szie X 1大小的卷积核, 每个卷积核都只和一个channel做二维上的卷积运算, 最终得到 M 个 $F_{out}$ x $F_{out}$ x 1 大小的输出结果. $F_{out}$ 是卷积后的featuremap大小.
接着, 使用大小为1x1xM的卷积核做pointwise conv, 总共有filters个, 每个卷积核都和第一步得到的M个featuremap结果做卷积运算,最后得到 $F_{out}$