ResNeXt介绍及keras实现

一,ResneXt与 ResNet 相比，相同的参数个数，结果更好：一个 101 层的 ResNeXt 网络，和 200 层的 ResNet 准确度差不多，但是计算量只有后者的一半。

二,ResneXt与 ResNet 网络block结构比较，大的结构类似，都采用了残差恒等，ResneXt增加了cardinality维度，默认参数是32。此处借鉴了 GoogLeNet 的 split-transform-merge架构。

三,ResneXt与 ResNet 网络结构及参数比较，ResneXt50与 ResNet50参数及浮点运算量差不多，但性能却高i出不少。


四,ResneXt等价模式的介绍，最右侧是 AlexNet 中提出的分组卷积，相同层的 width 分组卷积，最终作者使用的是下图最右边的模型，更加简洁并且训练更快。
五,keras的实现

def block3(x, filters, kernel_size=3, stride=1, groups=32,

           conv_shortcut=True, name=None):

    """A residual block.



    # Arguments

        x: input tensor.

        filters: integer, filters of the bottleneck layer.

        kernel_size: default 3, kernel size of the bottleneck layer.

        stride: default 1, stride of the first layer.

        groups: default 32, group size for grouped convolution.

        conv_shortcut: default True, use convolution shortcut if True,

            otherwise identity shortcut.

        name: string, block label.



    # Returns

        Output tensor for the residual block.

    """

    bn_axis = 3 if backend.image_data_format() == 'channels_last' else 1



    if conv_shortcut is True:

        shortcut = layers.Conv2D((64 // groups) * filters, 1, strides=stride,

                                 use_bias=False, name=name + '_0_conv')(x)

        shortcut = layers.BatchNormalization(axis=bn_axis, epsilon=1.001e-5,

                                             name=name + '_0_bn')(shortcut)

    else:

        shortcut = x



    x = layers.Conv2D(filters, 1, use_bi