MONAI-增强版UNet

最新推荐文章于 2024-04-22 13:49:32 发布
最新推荐文章于 2024-04-22 13:49:32 发布
阅读量2k 收藏 7
点赞数 2
分类专栏： MONAI 文章标签： 深度学习 计算机视觉 神经网络 unet enhanced UNet
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/BXD1314/article/details/129839170
版权

前言

对UNet不了解的，可以参看动手实现基于pytorch框架的UNet模型对resnet不熟悉的同学可以参考经典网络架构学习-ResNet

enhanced UNet VS Basic UNet

  • 卷积部分全部换成残差块链接
  • 激活层(PReLU).
  • 加入了Dropout layers (Dropout).
  • 归化层使用(InstanceNorm3d).
  • 卷积层主要使用 (Conv and ConvTranspose).

网络架构分析

从代码分析可以看出有三部分：

  • The first down layer.
  • The intermediate skip connection based block.
  • The final up layer.

实现参考Left-Ventricle Quantification Using Residual U-Net
在这里插入图片描述

首先，让我们建立一个UNet实例来检查其结构。num_res_units被设置为2，num_res_units设置每层使用几个残差单元，以下代码使用MONAI构建。

from monai.networks.nets import UNet
    from torchinfo import summary

    # 3 layer network with down/upsampling by a factor of 2 at each layer with 2-convolution residual units
    net = UNet(
        spatial_dims=2,
        in_channels=1,
        out_channels=1,
        channels=(4, 8, 16),

        strides=(2, 2),
        num_res_units=2
    )
    print(net)
    summary(net,(1,1,224,224))



UNet(
  (model): Sequential(
    (0): ResidualUnit(
      (conv): Sequential(
        (unit0): Convolution(
          (conv): Conv2d(1, 4, kernel_size=(3, 3), stride=(2, 2), padding=(1, 1))
          (adn): ADN(
            (N): InstanceNorm2d(4, eps=1e-05, momentum=0.1, affine=False, track_running_stats=False)
            (D): Dropout(p=0.0, inplace=False)
            (A): PReLU(num_parameters=1)
          )
        )
        (unit1): Convolution(
          (conv): Conv2d(4, 4, kernel_size=(3, 3), stride=(1, 1), padding=(1, 1))
          (adn): ADN(
            (N): InstanceNorm2d(4, eps=1e-05, momentum=0.1, affine=False, track_running_stats=False)
            (D): Dropout(p=0.0, inplace=False)
            (A): PReLU(num_parameters=1)
          )
        )
      )
      (residual): Conv2d(1, 4, kernel_size=(3, 3), stride=(2, 2), padding=(1, 1))
    )
    (1): SkipConnection(
      (submodule): Sequential(
        (0): ResidualUnit(
          (conv): Sequential(
            (unit0): Convolution(
              (conv): Conv2d(4, 8, kernel_size=(3, 3), stride=(2, 2), padding=(1, 1))
              (adn): ADN(
                (N): InstanceNorm2d(8, eps=1e-05, momentum=0.1, affine=False, track_running_stats=False)
                (D): Dropout(p=0.0, inplace=False)
                (A): PReLU(num_parameters=1)
              )
            )
            (unit1): Convolution(
              (conv): Conv2d(8, 8, kernel_size=(3, 3), stride=(1, 1), padding=(1, 1))
              (adn): ADN(
                (N): InstanceNorm2d(8, eps=1e-05, momentum=0.1, affine=False, track_running_stats=False)
                (D): Dropout(p=0.0, inplace=False)
                (A): PReLU(num_parameters=1)
              )
            )
          )
          (residual): Conv2d(4, 8, kernel_size=(3, 3), stride=(2, 2), padding=(1, 1))
        )
        (1): SkipConnection(
          (submodule): ResidualUnit(
            (conv): Sequential(
              (unit0): Convolution(
                (conv): Conv2d(8, 16, kernel_size=(3, 3), stride=(1, 1), padding=(1, 1))
                (adn): ADN(
                  (N): InstanceNorm2d(16, eps=1e-05, momentum=0.1, affine=False, track_running_stats=False)
                  (D): Dropout(p=0.0, inplace=False)
                  (A): PReLU(num_parameters=1)
                )
              )
              (unit1): Convolution(
                (conv): Conv2d(16, 16, kernel_size=(3, 3), stride=(1, 1), padding=(1, 1))
                (adn): ADN(
                  (N): InstanceNorm2d(16, eps=1e-05, momentum=0.1, affine=False, track_running_stats=False)
                  (D): Dropout(p=0.0, inplace=False)
                  (A): PReLU(num_parameters=1)
                )
              )
            )
            (residual): Conv2d(8, 16, kernel_size=(1, 1), stride=(1, 1))
          )
        )
        (2): Sequential(
          (0): Convolution(
            (conv): ConvTranspose2d(24, 4, kernel_size=(3, 3), stride=(2, 2), padding=(1, 1), output_padding=(1, 1))
            (adn): ADN(
              (N): InstanceNorm2d(4, eps=1e-05, momentum=0.1, affine=False, track_running_stats=False)
              (D): Dropout(p=0.0, inplace=False)
              (A): PReLU(num_parameters=1)
            )
          )
          (1): ResidualUnit(
            (conv): Sequential(
              (unit0): Convolution(
                (conv): Conv2d(4, 4, kernel_size=(3, 3), stride=(1, 1), padding=(1, 1))
                (adn): ADN(
                  (N): InstanceNorm2d(4, eps=1e-05, momentum=0.1, affine=False, track_running_stats=False)
                  (D): Dropout(p=0.0, inplace=False)
                  (A): PReLU(num_parameters=1)
                )
              )
            )
            (residual): Identity()
          )
        )
      )
    )
    (2): Sequential(
      (0): Convolution(
        (conv): ConvTranspose2d(8, 1, kernel_size=(3, 3), stride=(2, 2), padding=(1, 1), output_padding=(1, 1))
        (adn): ADN(
          (N): InstanceNorm2d(1, eps=1e-05, momentum=0.1, affine=False, track_running_stats=False)
          (D): Dropout(p=0.0, inplace=False)
          (A): PReLU(num_parameters=1)
        )
      )
      (1): ResidualUnit(
        (conv): Sequential(
          (unit0): Convolution(
            (conv): Conv2d(1, 1, kernel_size=(3, 3), stride=(1, 1), padding=(1, 1))
          )
        )
        (residual): Identity()
      )
    )
  )
)
===================================================================================================================
Layer (type:depth-idx)                                            Output Shape              Param #
===================================================================================================================
UNet                                                              [1, 1, 224, 224]          --
├─Sequential: 1-1                                                 [1, 1, 224, 224]          --
│    └─ResidualUnit: 2-1                                          [1, 4, 112, 112]          --
│    │    └─Conv2d: 3-1                                           [1, 4, 112, 112]          40
│    │    └─Sequential: 3-2                                       [1, 4, 112, 112]          190
│    └─SkipConnection: 2-2                                        [1, 8, 112, 112]          --
│    │    └─Sequential: 3-3                                       [1, 4, 112, 112]          5,830
│    └─Sequential: 2-3                                            [1, 1, 224, 224]          --
│    │    └─Convolution: 3-4                                      [1, 1, 224, 224]          74
│    │    └─ResidualUnit: 3-5                                     [1, 1, 224, 224]          10
===================================================================================================================
Total params: 6,144
Trainable params: 6,144
Non-trainable params: 0
Total mult-adds (M): 34.85
===================================================================================================================
Input size (MB): 0.20
Forward/backward pass size (MB): 7.83
Params size (MB): 0.02
Estimated Total Size (MB): 8.05
===================================================================================================================

模型结构中Convolution 是MONAI自己封装的卷积层结构
ADN:构建一个由可选的激活层（A）、剔除层（D）和归一化层（N）组成的顺序模块

Convolution

构建一个带有归一化的卷积，可选的滤波，和可选的激活层。

– (Conv|ConvTrans) – (Norm – Dropout – Acti) –

example:

from monai.networks.blocks import Convolution

conv = Convolution(
    spatial_dims=3,
    in_channels=1,
    out_channels=1,
    adn_ordering="ADN",
    act=("prelu", {"init": 0.2}),
    dropout=0.1,
    norm=("layer", {"normalized_shape": (10, 10, 10)}),
)
print(conv)

output:

Convolution(
  (conv): Conv3d(1, 1, kernel_size=(3, 3, 3), stride=(1, 1, 1), padding=(1, 1, 1))
  (adn): ADN(
    (A): PReLU(num_parameters=1)
    (D): Dropout(p=0.1, inplace=False)
    (N): LayerNorm((10, 10, 10), eps=1e-05, elementwise_affine=True)
  )
)
ADN 模块
# activation, group norm, dropout
>>> norm_params = ("GROUP", {"num_groups": 1, "affine": False})
>>> ADN(norm=norm_params, in_channels=1, dropout_dim=1, dropout=0.8, ordering="AND")
ADN(
    (A): ReLU()
    (N): GroupNorm(1, 1, eps=1e-05, affine=False)
    (D): Dropout(p=0.8, inplace=False)
)

# LeakyReLU, dropout
>>> act_params = ("leakyrelu", {"negative_slope": 0.1, "inplace": True})
>>> ADN(act=act_params, in_channels=1, dropout_dim=1, dropout=0.8, ordering="AD")
ADN(
    (A): LeakyReLU(negative_slope=0.1, inplace=True)
    (D): Dropout(p=0.8, inplace=False)
)

ResidualUnit

残差单元实现
example:

from monai.networks.blocks import ResidualUnit

convs = ResidualUnit(
    spatial_dims=3,
    in_channels=1,
    out_channels=1,
    adn_ordering="AN",
    act=("prelu", {"init": 0.2}),
    norm=("layer", {"normalized_shape": (10, 10, 10)}),
)
print(convs)

output:

ResidualUnit(
  (conv): Sequential(
    (unit0): Convolution(
      (conv): Conv3d(1, 1, kernel_size=(3, 3, 3), stride=(1, 1, 1), padding=(1, 1, 1))
      (adn): ADN(
        (A): PReLU(num_parameters=1)
        (N): LayerNorm((10, 10, 10), eps=1e-05, elementwise_affine=True)
      )
    )
    (unit1): Convolution(
      (conv): Conv3d(1, 1, kernel_size=(3, 3, 3), stride=(1, 1, 1), padding=(1, 1, 1))
      (adn): ADN(
        (A): PReLU(num_parameters=1)
        (N): LayerNorm((10, 10, 10), eps=1e-05, elementwise_affine=True)
      )
    )
  )
  (residual): Identity()
)

参考链接

https://github.com/Project-MONAI/tutorials/blob/main/modules/UNet_input_size_constrains.ipynb
convolutions.py
acti_norm.py

@左左@右右
关注
  • 2
    点赞
  • 踩
  • 7
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
monai-code-formatter:用于自动格式化MONAI的源代码文件的github操作-Form source code
03-25
黑色的Python代码格式化程序 这个仓库实现了两个选项，可以使用GitHub动作用Black格式化python代码。 格式更改将提交回源分支（触发操作的PR）。 选项1使用格式化程序工作流程 由于Github令牌的写权限受到限制，它不适用于来自分叉的拉取请求。 用法 - uses : project-monai/monai-code-formatter@master with : # options to the auto formatter (Black) format_args : # email address used to write git commit email : # username used to write git commit username : # commit message messag
语义分割系列7-Attention Unet（pytorch实现）
yumaomi的博客
05-19 1万+
本文介绍了AttentionUnet模型和其主要中心思想，并在pytorch框架上构建了Attention Unet模型，构建了Attention gate模块，在数据集Camvid上进行复现。
1.monai——Dataset加载数据
qq_45807235的博客
10-31 1637
monai第一步，加载医学图像数据
U-Net最新变体 性能连超UNet++/UNet v2，计算量降低160倍
学姐带你玩AI的博客
02-27 2593
医学图像分割是医学影像分析中的一项关键技术，它能将医学图像中的组织、病变或解剖结构准确地分离和标记出来，为医生提供关键的定量和定性信息，在临床量化、疾病诊断、治疗计划等实际应用中起到了至关重要的作用。以其独特的对称U形结构而闻名，但随着技术的进步和新模型的出现，UNet正面临着一些挑战，比如数据集的限制、语义差距、计算资源消耗过高等。为克服这些挑战，提高模型的性能和应用范围，研究者们提出了许多U-Net的改进方案。除此之外，等也让UNet算法焕发第二春。为帮助同学们深入了解原理，获取创新点，我整理了。
探究各种学习率策略--模拟学习率变化过程
u014264373的博客
08-07 329
调整学习速率的方法有很多，如何直观的感受学习率随迭代的变化趋势，以及如何获取当前epoch的学习速率 lr。我们可以把学习速率随 epoch的变化画出来。 import torch import monai import matplotlib.pyplot as plt model = monai.networks.nets.UNet(dimensions=3, in_channels=1, out_channels=2, channels=(16, 32, 64, 128, 256),
深入解析MONAI Auto3dseg函数：功能、使用方法和参数解析
u014264373的博客
01-31 486
在医学影像领域，自动化的图像分割是一个重要且具有挑战性的任务。为了简化医学影像图像分割的流程，MONAI提供了Auto3dseg函数，它是一个强大的工具，可以自动进行三维图像分割。本文将详细介绍Auto3dseg函数的功能、使用方法以及各个参数的含义。
[深度学习论文笔记]UNETR: Transformers for 3D Medical Image Segmentation
Slientsake的博客
03-30 1万+
解码器的选择：在表3中，通过比较UNETR和其他解码器架构在两个MRI和CT模式的代表性分割任务上的性能来评估解码器的有效性。虽然这种基于FCN的方法具有强大的表示学习能力，但它们在远程依赖学习中的表现，仅限于它们的局部接受域。同样，将三维输入体积 ，分辨率(H,W,D)和C输入通道划分为平坦的均匀非重叠斑块 ，创建一个一维序列，其中(P, P, P)表示每个patch的分辨率， 为序列的长度。此外，在小器官的分割中，在胆囊和肾上腺的Dice评分方面，方法显著优于第二最佳基线的6.382%和6.772%。
数据增广（data augmentation）在训练深度神经网络时的必要性解释
过招
03-22 738
Left-Ventricle Quantification Using Residual U-Net Kerfoot E., Clough J., Oksuz I., Lee J., King A.P., Schnabel J.A. (2019) Left-Ventricle Quantification Using Residual U-Net. In: Pop M. et al. (eds) Statistical Atlases and Computational Models of the Hea
swin unetr的3D语义分割
sdhdsf132452的博客
02-15 2918
3d医学图像分割
图像分割UNet系列------Attention Unet详解
热门推荐
gz7seven
08-12 4万+
图像分割unet系列------Attention Unet详解1、Attention Unet主要目标2、Attention Unet网络结构     Attention Unet发表于2018年中期（比Res-UNet要早一些），它也是UNet非常重要的改进版本之一。当然，Attention Unet同样也是应用在医学图像分割领域，不过文章主要是以胰脏图像分割进行实验与论证的。 1、Attention Unet主要目标     作者在摘要与简介中很清楚的表明了要解决的问题以及要达到的目标。具体如下所示：
[论文解读]UNet++解读 + 它是如何对UNet改进 + 作者的研究态度和方式
h201601060805的博客
05-03 7513
UNet++论文: 地址 UNet++论文翻译：地址 UNet++ 源代码：地址 UNet++作者在知乎 上进行了解读，里面还有视频的详解，深入人心。里面的每一句话都令我印象深刻，我总结如下：很多论文给出了他们建议的网络结构，其中包括非常多的细节，比如用什么卷积，用几层，怎么降采样，学习率多少，优化器用什么，这些都是比较直观的参数，其实这些在论文中给出参数并不见得是最好的，所以关注这些的意义不大，...
Python库 | monai-0.2.0-202007061745-py3-none-any.whl
02-17
python库，解压后可用。 资源全名：monai-0.2.0-202007061745-py3-none-any.whl
MONAI-FL：旨在建立一个新的开源，社区驱动的FL平台生态系统
02-28
摩耐 迈向面向医疗保健应用的开源，社区驱动的FL平台新生态系统 我们旨在通过联合学习功能来增强MONAI平台。 目标：设计医疗环境中联合学习的新平台 核心模块 原料药将所有模块与可编程应用层连接 沟通模式 客户端服务器 点对点 执行/运行时环境 单机版 局域网 广域网 云 楷模各种口味的FL 数据FL数据集（用于实验） 平台功能 联合聚集 飞地执行 坚固性 公平 信誉机制等 隐私 差异隐私 安全的多方计算 同态加密 安全 安全机器学习 系统安全性
PyPI 官网下载 | monai-0.2.0-202007061745-py3-none-any.whl
01-06
资源来自pypi官网。 资源全名：monai-0.2.0-202007061745-py3-none-any.whl
PyPI 官网下载 | monai-weekly-0.5.dev2103.tar.gz
02-10
资源来自pypi官网。 资源全名：monai-weekly-0.5.dev2103.tar.gz
深度学习每周学习总结P5（运动鞋识别）
qq_33489955的博客
04-19 957
数据导入及处理部分：本次数据导入没有使用torchvision自带的数据集，需要将原始数据进行处理包括数据导入，数据类型转换。划分数据集：划定训练集测试集后，再使用torch.utils.data中的DataLoader()加载数据.注意：与之前不同的是，本次的数据集是已经划分好的。模型构建部分：有两个部分一个初始化部分（init()）列出了网络结构的所有层，比如卷积层池化层等。第二个部分是前向传播部分，定义了数据在各层的处理过程。
深度学习之基础模型——长短时记忆网络LSTM
最新发布
m0_61787307的博客
04-22 663
这样做的原理在于，“短期记忆”和“新记忆”拼接起来形成的新张量，如果值比较小说明该记忆不重要，不重要就会被 sigmoid 赋予更接近于 0 的权重，反之则会赋予更接近于 1 的权重。LSTM 的初衷也是如此，通过一些手段使得重要的信息得以保留，而不重要的信息被抛弃，使得重要的信息所占“记忆”的“比重”变高。而“短期记忆线”，顾名思义，主要是汇集短期时间内的输入信息，并根据其重要程度，将重要的传给“长期记忆线”，而将不重要的抛弃，这样“长期记忆线”就能够更好地维持其所拥有的信息更加有效。
深度学习pytorch实战4---猴逗病识别·
m0_55259388的博客
04-19 568
天气识别数据集http://链接：https://pan.baidu.com/s/1N2otldhzYZSqyh-E69IdjA?pwd=6666 提取码：6666 --来自百度网盘超级会员V3的分享同上期。
深度学习从入门到精通—Transformer
swpucwf的博客
04-22 1041
梯度消失和梯度爆炸：这是RNN最主要的问题。由于序列的长距离依赖，当错误通过层传播时，梯度可以变得非常小（消失）或非常大（爆炸），这使得网络难以学习。计算效率低：RNN由于其递归性质，必须按序列顺序执行计算，这限制了计算的并行性。对于长序列，这会导致训练过程非常慢。难以捕捉长距离依赖：尽管理论上RNN能够处理任何长度的序列，但在实践中，它们往往难以学习到输入序列中的长距离依赖关系。
MONAI label
07-28
MONAI label是指使用MONAI库进行医学图像分析时，对图像中的不同区域进行标记的过程。在MONAI中，可以使用自定义的标签来表示不同的区域或结构。可以通过在代码中使用el-tree组件来自定义树型结构上的标签名称。例如，可以使用以下代码来自定义标签名称： ```javascript <el-tree> <span slot-scope="{node}" :title="node.label" class="el-tree-node__label node-label"> {{node.label}} </span> </el-tree> ``` 同时，可以使用CSS样式来定义标签的外观。例如，可以使用以下CSS代码来设置标签的宽度、溢出处理和文本省略： ```css .node-label { width: 100%; overflow: hidden; text-overflow: ellipsis; white-space: nowrap; } ``` 这样可以实现自定义的标签名称和外观效果。如果需要使用CPU版本的MONAI，可以参考\[3\]中提供的链接。如果需要使用GPU版本的MONAI，可以参考\[4\]中提供的链接。 #### 引用[.reference_title] - *1* *2* [「Element」el-tree文字显示不全，解决办法](https://blog.csdn.net/zora_55/article/details/129447833)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra":{"utm_source":"vip_chatgpt_common_search_pc_result","utm_medium":"distribute.pc_search_result.none-task-cask-2~all~insert_cask~default-1-null.142^v91^control_2,239^v3^insert_chatgpt"}} ] [.reference_item] - *3* [爬虫 + CNN（卷积神经网络）实现名家画作识别与分类](https://blog.csdn.net/zaf0516/article/details/100777824)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra":{"utm_source":"vip_chatgpt_common_search_pc_result","utm_medium":"distribute.pc_search_result.none-task-cask-2~all~insert_cask~default-1-null.142^v91^control_2,239^v3^insert_chatgpt"}} ] [.reference_item] [ .reference_list ]

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值