make_res_layer方法

最新推荐文章于 2024-09-17 17:11:17 发布
最新推荐文章于 2024-09-17 17:11:17 发布
阅读量628 收藏 7
点赞数 15
文章标签： 笔记 人工智能 pytorch 深度学习
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/qq_34425255/article/details/137923211
版权
该篇文章详细介绍了如何使用Python构建ResNet3D模型中的残差层，包括参数解释、功能实现和下采样的条件判断。主要涉及模块、通道数、步长、膨胀选项以及规范化和激活配置。
摘要由CSDN通过智能技术生成 
  @staticmethod
    def make_res_layer(block,
                       inplanes,
                       planes,
                       blocks,
                       stride=(1, 1),
                       inflate=1,
                       inflate_style='3x1x1',
                       advanced=False,
                       norm_cfg=None,
                       act_cfg=None,
                       conv_cfg=None):
        """Build residual layer for ResNet3D.

        Args:
            block (nn.Module): Residual module to be built.
            inplanes (int): Number of channels for the input feature in each block.
            planes (int): Number of channels for the output feature in each block.
            blocks (int): Number of residual blocks.
            stride (tuple[int]): Stride (temporal, spatial) in residual and conv layers. Default: (1, 1).
            inflate (int | tuple[int]): Determine whether to inflate for each block. Default: 1.
            inflate_style (str): '3x1x1' or '3x3x3'. which determines the kernel sizes and padding strides
                for conv1 and conv2 in each block. Default: '3x1x1'.
            conv_cfg (dict | None): Config for norm layers. Default: None.
            norm_cfg (dict | None): Config for norm layers. Default: None.
            act_cfg (dict | None): Config for activate layers. Default: None.

        Returns:
            nn.Module: A residual layer for the given config.
        """
        inflate = inflate if not isinstance(inflate, int) else (inflate, ) * blocks
        assert len(inflate) == blocks
        downsample = None
        if stride[1] != 1 or inplanes != planes * block.expansion:
            if advanced:
                conv = ConvModule(
                    inplanes,
                    planes * block.expansion,
                    kernel_size=1,
                    stride=1,
                    bias=False,
                    conv_cfg=conv_cfg,
                    norm_cfg=norm_cfg,
                    act_cfg=None)
                pool = nn.AvgPool3d(
                    kernel_size=(stride[0], stride[1], stride[1]),
                    stride=(stride[0], stride[1], stride[1]),
                    ceil_mode=True)
                downsample = nn.Sequential(conv, pool)
            else:
                downsample = ConvModule(
                    inplanes,
                    planes * block.expansion,
                    kernel_size=1,
                    stride=(stride[0], stride[1], stride[1]),
                    bias=False,
                    conv_cfg=conv_cfg,
                    norm_cfg=norm_cfg,
                    act_cfg=None)

        layers = []
        layers.append(
            block(
                inplanes,
                planes,
                stride=stride,
                downsample=downsample,
                inflate=(inflate[0] == 1),
                inflate_style=inflate_style,
                norm_cfg=norm_cfg,
                conv_cfg=conv_cfg,
                act_cfg=act_cfg))
        inplanes = planes * block.expansion
        for i in range(1, blocks):
            layers.append(
                block(
                    inplanes,
                    planes,
                    stride=(1, 1),
                    inflate=(inflate[i] == 1),
                    inflate_style=inflate_style,
                    norm_cfg=norm_cfg,
                    conv_cfg=conv_cfg,
                    act_cfg=act_cfg))

        return nn.Sequential(*layers)

  def make_res_layer(block,
                       inplanes,
                       planes,
                       blocks,
                       stride=(1, 1),
                       inflate=1,
                       inflate_style='3x1x1',
                       advanced=False,
                       norm_cfg=None,
                       act_cfg=None,
                       conv_cfg=None):
        """Build residual layer for ResNet3D.

        Args:
            block (nn.Module): Residual module to be built.
            inplanes (int): Number of channels for the input feature in each block.
            planes (int): Number of channels for the output feature in each block.
            blocks (int): Number of residual blocks.
            stride (tuple[int]): Stride (temporal, spatial) in residual and conv layers. Default: (1, 1).
            inflate (int | tuple[int]): Determine whether to inflate for each block. Default: 1.
            inflate_style (str): '3x1x1' or '3x3x3'. which determines the kernel sizes and padding strides
                for conv1 and conv2 in each block. Default: '3x1x1'.
            conv_cfg (dict | None): Config for norm layers. Default: None.
            norm_cfg (dict | None): Config for norm layers. Default: None.
            act_cfg (dict | None): Config for activate layers. Default: None.

        Returns:
            nn.Module: A residual layer for the given config.
        """

这段代码定义了一个名为 make_res_layer 的函数,用于建立 ResNet3D 模型的残差层。下面是函数参数的中文解释:

  1. block (nn.Module): 要构建的残差模块。
  2. inplanes (int): 每个块的输入特征通道数。
  3. planes (int): 每个块的输出特征通道数。
  4. blocks (int): 残差块的数量。
  5. stride (tuple[int]): 残差层和卷积层的步长(时间维度,空间维度)。默认为 (1, 1)。
  6. inflate (int | tuple[int]): 决定是否在每个块中进行膨胀。默认为 1。
  7. inflate_style (str): '3x1x1' 或 '3x3x3',决定了每个块中 conv1 和 conv2 的核大小和填充步长。默认为 '3x1x1'。
  8. conv_cfg (dict | None): 卷积层配置,默认为 None。
  9. norm_cfg (dict | None): 归一化层配置,默认为 None。
  10. act_cfg (dict | None): 激活层配置,默认为 None。

这个函数会返回一个包含指定残差层配置的 PyTorch 模块。

        inflate = inflate if not isinstance(inflate, int) else (inflate, ) * blocks
        assert len(inflate) == blocks
        downsample = None
        if stride[1] != 1 or inplanes != planes * block.expansion:
            if advanced:
                conv = ConvModule(
                    inplanes,
                    planes * block.expansion,
                    kernel_size=1,
                    stride=1,
                    bias=False,
                    conv_cfg=conv_cfg,
                    norm_cfg=norm_cfg,
                    act_cfg=None)
                pool = nn.AvgPool3d(
                    kernel_size=(stride[0], stride[1], stride[1]),
                    stride=(stride[0], stride[1], stride[1]),
                    ceil_mode=True)
                downsample = nn.Sequential(conv, pool)
            else:
                downsample = ConvModule(
                    inplanes,
                    planes * block.expansion,
                    kernel_size=1,
                    stride=(stride[0], stride[1], stride[1]),
                    bias=False,
                    conv_cfg=conv_cfg,
                    norm_cfg=norm_cfg,
                    act_cfg=None)

这段代码中的每一行解释如下:

  1. inflate = inflate if not isinstance(inflate, int) else (inflate, ) * blocks

    • 如果 inflate 不是一个整数,那么保持原值;否则将其转换为一个元组,并将其重复 blocks 次。

  2. assert len(inflate) == blocks

    • 断言 inflate 的长度与 blocks 的值相等。

  3. downsample = None

    • 初始化 downsample 为 None。

  4. if stride[1] != 1 or inplanes != planes * block.expansion:

    • 如果空间维度的步长不为 1,或者输入通道数与输出通道数 (planes * block.expansion) 不匹配,则执行以下操作。

  5. if advanced:

    • 如果 advanced 为 True,则使用更复杂的下采样方式。

  6. conv = ConvModule(inplanes, planes * block.expansion, kernel_size=1, stride=1, bias=False, conv_cfg=conv_cfg, norm_cfg=norm_cfg, act_cfg=None)

    • 创建一个 1x1 卷积层,用于调整通道数。

  7. pool = nn.AvgPool3d(kernel_size=(stride[0], stride[1], stride[1]), stride=(stride[0], stride[1], stride[1]), ceil_mode=True)

    • 创建一个平均池化层,用于执行下采样。

  8. downsample = nn.Sequential(conv, pool)

    • 将卷积层和池化层组合成一个 downsample 模块。

  9. else:

    • 如果 advanced 为 False,则使用更简单的下采样方式。

  10. downsample = ConvModule(inplanes, planes * block.expansion, kernel_size=1, stride=(stride[0], stride[1], stride[1]), bias=False, conv_cfg=conv_cfg, norm_cfg=norm_cfg, act_cfg=None)

    • 创建一个 1x1 卷积层,用于执行下采样。

总的来说,这段代码确定了是否需要下采样,并根据 advanced 标志选择不同的下采样方式。

        layers = []
        layers.append(
            block(
                inplanes,
                planes,
                stride=stride,
                downsample=downsample,
                inflate=(inflate[0] == 1),
                inflate_style=inflate_style,
                norm_cfg=norm_cfg,
                conv_cfg=conv_cfg,
                act_cfg=act_cfg))
        inplanes = planes * block.expansion

这段代码继续实现 make_res_layer 函数的功能。下面是每一行的解释:

  1. layers = []

    • 初始化一个空的列表 layers。

  2. layers.append()

    • 向 layers 列表中添加一个元素。

  3. block(inplanes, planes, stride=stride, downsample=downsample, inflate=(inflate[0] == 1), inflate_style=inflate_style, norm_cfg=norm_cfg, conv_cfg=conv_cfg, act_cfg=act_cfg)

    • 创建一个 block 模块实例,并传入以下参数:
      • inplanes: 输入通道数
      • planes: 输出通道数
      • stride: 步长
      • downsample: 下采样模块
      • inflate: 是否膨胀,取决于 inflate[0] 的值
      • inflate_style: 膨胀的样式
      • norm_cfg: 归一化层配置
      • conv_cfg: 卷积层配置
      • act_cfg: 激活层配置

  4. inplanes = planes * block.expansion

    • 更新 inplanes 的值为 planes * block.expansion。这是因为每个残差块的输出通道数是 planes * block.expansion。

通过这段代码,我们创建了一个包含一个残差块的列表 layers,并更新了 inplanes 的值,为下一个残差块的创建做好准备。

  for i in range(1, blocks):
            layers.append(
                block(
                    inplanes,
                    planes,
                    stride=(1, 1),
                    inflate=(inflate[i] == 1),
                    inflate_style=inflate_style,
                    norm_cfg=norm_cfg,
                    conv_cfg=conv_cfg,
                    act_cfg=act_cfg))

        return nn.Sequential(*layers)

这段代码继续实现 make_res_layer 函数的功能。下面是每一行的中文解释:

  1. for i in range(1, blocks):

    • 从 1 开始,循环 blocks-1 次。这是因为第 0 个块已经在前面创建了。

  2. layers.append()

    • 向 layers 列表中添加一个元素。

  3. block(inplanes, planes, stride=(1, 1), inflate=(inflate[i] == 1), inflate_style=inflate_style, norm_cfg=norm_cfg, conv_cfg=conv_cfg, act_cfg=act_cfg)

    • 创建一个 block 模块实例,并传入以下参数:
      • inplanes: 输入通道数
      • planes: 输出通道数
      • stride: 步长设为 (1, 1)
      • inflate: 是否膨胀,取决于 inflate[i] 的值
      • inflate_style: 膨胀的样式
      • norm_cfg: 归一化层配置
      • conv_cfg: 卷积层配置
      • act_cfg: 激活层配置

  4. return nn.Sequential(*layers)

    • 将 layers 列表中的所有元素组装成一个 PyTorch 的 nn.Sequential 模块,并返回。

通过这段代码,我们创建了剩余的 blocks-1 个残差块,并将它们组装成一个 nn.Sequential 模块返回。这就完成了 make_res_layer 函数的实现。

鱼儿会飞吗
关注
【手把手反内卷】开创全新AI多模态任务一视听分割：代码实践、优化教程（二）
cv君的博客
08-09 2万+
代码实战，有手就行，反内卷，最新多模态
ts15_Forecast multiple seas_mSTL_make_subplot_rMSPE_UCM_date format_NeuralProphet_changepoint_StateS
Linli522362242的专栏
02-02 2563
ts15_Forecast multiple seasons_mSTL_make_subplots_rMSPE_UCM_date format_NeuralProphet_changepoints_State-Space_plot_components
ResNet/ResNet-I3D/ResNet-I3D-SlowFast 源码阅读
清欢
07-01 2902
文章目录0. 前言1. ResNet50-2D2. ResNet-I3D3. ResNet-I3D-SlowFast 0. 前言 目标： 更好的理解2D/I3D/SlowFast模型。 为了实现MobileNet/ShuffleNet等2D轻量化网络的3D版本，要仔细研究、借鉴ResNet版的代码。 源码来源 mmaction。 没什么营养的流水账 1. ResNet50-2D 后面几个结构也都是基于最原始的ResNet结构。 总体结构分为五个部分，STEM+4个stage。 STEM结构：
PyTorch源码解读之torchvision.models
热门推荐
AI之路
01-21 10万+
PyTorch框架中有一个非常重要且好用的包：torchvision，该包主要由3个子包组成，分别是：torchvision.datasets、torchvision.models、torchvision.transforms。这3个子包的具体介绍可以参考官网：http://pytorch.org/docs/master/torchvision/index.html。具体代码可以参考github：
pytorch之resnet中def _make_residual解释layers
邹小驴
07-23 961
def _make_residual(self, block, planes, num_blocks, stride=1): downsample = None if stride != 1 or self.inplanes != planes * block.expansion: downsample = nn.Sequential( nn.Conv2d(self.inplanes, planes * bloc...
MMDet逐行代码解读之ResNet50+FPN
wulele2的博客
02-13 9439
文章目录前言1、ResNet501.1. 构建一个resnet501.2. 搭建过程1.2.1 stem部分1.2.2 ResLayer部分1.2.3 冻结部分参数1.2.4 重写train方法1.3. 前向传播2、FPN2.1.2.2.总结 前言   本篇是MMdet逐行解读第五篇。从本篇开始介绍mmdet/models文件夹内容。首先介绍最常用的resnet50+fpn结构。  历史文章如下：  AnchorGenerator解读  MaxIOUAssigner解读  DeltaXYWHBBoxCo
pytorch 实现resnet模型 细节讲解
cp1314971的博客
02-19 9077
残差神经网络 (ResNet)也是需要掌握的模型，需要自己手动实现理解细节。本文就是对代码的细节讲解，话不多说，开始了。 首先你需要了解它的结构，本文以resnet50围绕讲解，网络的输入照片大小是224x224的经过conv1，conv2，conv3，conv4，conv5最后在平均池化，全连接层。由于中间有重复利用的模块，所以我们需要将它们写成一个类，用来重复调用即可。 Resnet之...
【darknet源码解析-24】shortcut_layer.h 和 shortcut_layer.c 解析
CVer
11-14 1679
本系列为darknet源码解析，本次解析src/short_layer.h 与 src/short_layer.c 两个。在yolo v3中short_layer主要完成直连操作，完成残差块中的恒等映射操作； shortcut_layer.h 的定义如下： #ifndef SHORTCUT_LAYER_H #define SHORTCUT_LAYER_H #include "laye...
CornerNet网络结构超详细解读
weixin_42150026的博客
12-04 5690
这两天看了一下CornerNet，一开始没太搞懂这个结构，作者的代码也没注释，网上查了一下都没什么详细讲解网络结构的博客和帖子。看了我一天，根据论文和代码搞懂了，写一篇博客记录一下。 论文链接：https://eccv2018.org/openaccess/content_ECCV_2018/papers/Hei_Law_CornerNet_Detecting_Objects_ECCV_2018...
轻量级神经网络——MobileNet V2
CharmsLUO的博客
11-05 1594
轻量级神经网络——MobileNet V2 最近太闲了，突然想记录一下学习感悟！！！！ 你好——MobileNet V2 论文下载：https://arxiv.org/abs/1801.04381， 代码下载：https://github.com/shicai/MobileNet-Caffe， MobileNet系列出了非常多的小网络，可以说MobileNet V2就是谷歌神力延续，当然V2实在V1上的加强或者改进。那么接下来我们就一起来解开V2的神秘面纱，同志们准备好了吗！！！ 很高兴认识你——Mobi
ResNet详细解读
花有重开日 人无再少年
10-22 8万+
这篇文章是Deep Residual Learning for Image Recognition 的翻译，精简部分内容的同时补充了相关的概念，如有错误，敬请指正。
ResNet _make_layer代码理解
菜根檀的博客
01-31 1万+
ResNet _make_layer代码理解ResNet构建过程BasicBlock理解Bottleneck理解 ResNet 上图为ResNet的5个 基本结构，为了方便理解，此处以最简单的18-layer为例来展开： 首先我们知道ResNet中对于50层以下的构建块采用的是BasicBlock，而大于50的深层则采用的是Bottleneck，BasicBlock的构建代码如下： class BasicBlock(nn.Module): expansion = 1 def __init_
ROS组合导航笔记1：融合传感器数据
qq_44188415的博客
09-16 694
笔记
shader 案例学习笔记之将坐标系分成4个象限
localhost
09-13 241
坐标系被分成了4个单元格，每个单元格都有唯一的索引，后续就可以根据索引去渲染。
JUC学习笔记(二)
zhouDonQuixote的博客
09-16 1521
提示：文章写完后，目录可以自动生成，如何生成可参考右边的帮助文档 文章目录四、共享模型之内存4.1 Java 内存模型4.2 可见性退不出的循环解决方法可见性 vs 原子性模式之 Balking1.定义2.实现4.3 有序性原理之指令级并行1. 名词2.鱼罐头的故事3.指令重排序优化4.支持流水线的处理器诡异的结果解决方法原理之 volatile1.如何保证可见性2.如何保证有序性3.double-checked locking 问题4.double-checked locking 解决happens-
Games101图形学笔记——着色
最新发布
Petrichorzncu的博客
09-17 624
ShadingZ-buffering（深度缓冲） Shading（着色）画家算法Z-BufferShading(着色）Blinn-Phong Reflectance Model（布林·冯反射模型）漫反射能量守恒着色高光Blinn-Phong Reflection ModelShadingFrequencies 着色频率FlatShading（面着色）GouraudShading（顶点着色）PhongShading(像素着色)如何求逐顶点的法线如何求逐像素的法线图形管线/实时渲染管线ShaderShading
C++学习笔记----7、使用类与对象获得高性能（一）---- 书写类（1）
weixin_71738303的博客
09-13 1073
public:private:第一行指出这是一个叫做spreadsheet_cell的模块的定义。每一类的定义都是以class关键字开始后接类的名字。如果类定义在一个模块中，该类一定要import进来才可见，定义时一定要在class关键字之前加上export。类的定义就是声明并且以分号结束。类的定义通常在一个其名字的文件中。例如，SpreadsheetCell类定义在一个叫做SpreadsheetCell.cppm的文件中。有些编译器要求使用特定的扩展名；有些则不要求。
Netty笔记03-组件Channel
weixin_46425661的博客
09-12 846
本文主要讲解Netty中的组件Channel、ChannelFuture和CloseFuture
rk3568系统buildroot开发笔记
Reasonss的博客
09-11 1276
构建RK3568系统期间遇到的各种问题,我主要分为编译问题和运行问题
如何更改此代码让label的时间实时更新：/** * @brief 初始化高级设置菜单 * */ lv_obj_t* init_layer_work_advsettins(lv_obj_t* parent, int width) { time_t t=time(NULL); char tmp[32]={NULL}; strftime(tmp,sizeof(tmp), "%Y-%m-%d %H:%M:%S",localtime(&t)); //背景设置 lv_obj_t* menuLayer = lv_obj_create(parent); lv_obj_add_flag(menuLayer, LV_OBJ_FLAG_HIDDEN); lv_obj_align(menuLayer, LV_ALIGN_TOP_LEFT, 0, 0); lv_obj_set_size(menuLayer, width, LV_VER_RES); lv_obj_set_scrollbar_mode(menuLayer, LV_SCROLLBAR_MODE_OFF); lv_obj_set_style_radius(menuLayer, 0, LV_PART_MAIN | LV_STATE_DEFAULT); lv_obj_set_style_shadow_width(menuLayer, 0, LV_PART_MAIN | LV_STATE_DEFAULT); lv_obj_set_style_border_width(menuLayer, 0, LV_PART_MAIN | LV_STATE_DEFAULT); lv_obj_set_style_bg_color(menuLayer, lv_color_make(0x98, 0xb2, 0xaf), LV_PART_MAIN | LV_STATE_DEFAULT); //#98b2af //时间标题 lv_obj_t* testlayer = lv_label_create(menuLayer); lv_label_set_text(testlayer, "日期/时间:"); lv_obj_align(testlayer, LV_ALIGN_TOP_LEFT,5,TOP_HEIGHT); lv_obj_set_style_text_font(testlayer, &LV_NEWCHINESE_FONT, LV_PART_MAIN | LV_STATE_DEFAULT); //日期标签 AdvSettins.time_data_label=lv_label_create(menuLayer); lv_obj_align_to(AdvSettins.time_data_label,testlayer,LV_ALIGN_OUT_RIGHT_MID,0,0); lv_label_set_text(AdvSettins.time_data_label, tmp); }
07-11
在 `init_layer_work_advsettins` 函数中，我们创建了一个定时器 `update_time_label` ，每秒钟调用一次，以更新时间标签的文本。在定时器回调函数中，我们获取当前时间并使用 `lv_label_set_text` 函数更新时间标签...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值