结合残差结构的Res-Unet及其代码实现

最新推荐文章于 2024-05-05 12:16:16 发布
最新推荐文章于 2024-05-05 12:16:16 发布
阅读量1.3w 收藏 131
点赞数 15
分类专栏： 语义分割模块 模型构建 文章标签： 深度学习 python
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/m0_46501089/article/details/115913002
版权

本博客主要为代码实现的小伙伴提供模板，具体的原理已经有好多文章啦，所以在这里我也就不啰嗦啦，只作简单介绍！

1.残差结构

1.1 残差单元
与普通网络的串行结构相比，残差单元增加了跳跃映射，将输入与输出直接进行相加，补充卷积过程中损失的特征信息，这点与U-net的跳跃连接结构有点类似，不过Res中的跳跃连接做的是Add操作，而U-net的跳跃连接做的是Concatenate操作，还是有本质的不同，残差单元如图所示:在这里插入图片描述
1.2 残差家族
根据层数的不同ResNet有以下的伐木累
在这里插入图片描述
由图中可以看出ResNet18和ResNet34的残差单元只有两层，而ResNet50、ResNet101、ResNet152的残差单元有三层。本文使用的是ResNet50所以主要讲解ResNet50。
1.3 Resnet50
ResNet50由两个基本结构组成，一个为Conv_block，一个为Identity_block。如图所示：Identity_blockConv_block
Conv_block用于放在第一个位置调整通道以及特征图大小，Identity_block用于加深网络。

2.U-net

这个就不说了好吧
自己看吧…

3.Res-Unet

本文讲的Res-Unet主要是将U-net特征提取层的普通卷积用ResNet50代替，以达到加深网络的目的，直接上代码吧！

import keras
from keras.models import *
from keras.layers import *
from keras import layers
import keras.backend as K

IMAGE_ORDERING = 'channels_last'


def identity_block(input_tensor, kernel_size, filters, stage, block):
    filters1, filters2, filters3 = filters

    if IMAGE_ORDERING == 'channels_last':
        bn_axis = 3
    else:
        bn_axis = 1

    conv_name_base = 'res' + str(stage) + block + '_branch'
    bn_name_base = 'bn' + str(stage) + block + '_branch'
    x = Conv2D(filters1, (1, 1), data_format=IMAGE_ORDERING, name=conv_name_base + '2a')(input_tensor)
    x = BatchNormalization(axis=bn_axis, name=bn_name_base + '2a')(x)
    x = Activation('relu')(x)
    x = Conv2D(filters2, kernel_size, data_format=IMAGE_ORDERING,
               padding='same', name=conv_name_base + '2b')(x)
    x = BatchNormalization(axis=bn_axis, name=bn_name_base + '2b')(x)
    x = Activation('relu')(x)
    x = Conv2D(filters3, (1, 1), data_format=IMAGE_ORDERING, name=conv_name_base + '2c')(x)
    x = BatchNormalization(axis=bn_axis, name=bn_name_base + '2c')(x)
    x = layers.add([x, input_tensor])
    x = Activation('relu')(x)
    return x

def conv_block(input_tensor, kernel_size, filters, stage, block, strides=(2, 2)):
    filters1, filters2, filters3 = filters

    if IMAGE_ORDERING == 'channels_last':
        bn_axis = 3
    else:
        bn_axis = 1

    conv_name_base = 'res' + str(stage) + block + '_branch'
    bn_name_base = 'bn' + str(stage) + block + '_branch'
    x = Conv2D(filters1, (1, 1), data_format=IMAGE_ORDERING, strides=strides,
               name=conv_name_base + '2a')(input_tensor)
    x = BatchNormalization(axis=bn_axis, name=bn_name_base + '2a')(x)
    x = Activation('relu')(x)
    x = Conv2D(filters2, kernel_size, data_format=IMAGE_ORDERING, padding='same',
               name=conv_name_base + '2b')(x)
    x = BatchNormalization(axis=bn_axis, name=bn_name_base + '2b')(x)
    x = Activation('relu')(x)
    x = Conv2D(filters3, (1, 1), data_format=IMAGE_ORDERING, name=conv_name_base + '2c')(x)
    x = BatchNormalization(axis=bn_axis, name=bn_name_base + '2c')(x)
    shortcut = Conv2D(filters3, (1, 1), data_format=IMAGE_ORDERING, strides=strides,
                      name=conv_name_base + '1')(input_tensor)
    shortcut = BatchNormalization(axis=bn_axis, name=bn_name_base + '1')(shortcut)
    x = layers.add([x, shortcut])
    x = Activation('relu')(x)
    return x


def get_resnet50_encoder(input_height=256, input_width=256, pretrained='imagenet',
                         include_top=True, weights='imagenet',
                         input_tensor=None, input_shape=None,
                         pooling=None,
                         classes=1000):
    assert input_height % 32 == 0
    assert input_width % 32 == 0

    if IMAGE_ORDERING == 'channels_first':
        img_input = Input(shape=(6, input_height, input_width))
    elif IMAGE_ORDERING == 'channels_last':
        img_input = Input(shape=(input_height, input_width, 6))

    if IMAGE_ORDERING == 'channels_last':
        bn_axis = 3
    else:
        bn_axis = 1

    x = Conv2D(64, (3, 3), activation='relu', padding='same', name='block1_conv1')(img_input)
    x = Conv2D(64, (3, 3), activation='relu', padding='same', name='block1_conv2')(x)
    f1 = x
    x = BatchNormalization(axis=bn_axis, name='bn_conv1')(x)
    x = Activation('relu')(x)
    x = MaxPooling2D((2, 2), data_format=IMAGE_ORDERING, strides=(2, 2))(x)
    x = conv_block(x, 3, [32, 32, 128], stage=2, block='a', strides=(1, 1))
    x = identity_block(x, 3, [32, 32, 128], stage=2, block='b')
    x = identity_block(x, 3, [32, 32, 128], stage=2, block='c')
    f2 = x

    x = conv_block(x, 3, [64, 64, 256], stage=3, block='a')
    x = identity_block(x, 3, [64, 64, 256], stage=3, block='b')
    x = identity_block(x, 3, [64, 64, 256], stage=3, block='c')
    x = identity_block(x, 3, [64, 64, 256], stage=3, block='d')
    f3 = x

    x = conv_block(x, 3, [128, 128, 512], stage=4, block='a')
    x = identity_block(x, 3, [128, 128, 512], stage=4, block='b')
    x = identity_block(x, 3, [128, 128, 512], stage=4, block='c')
    x = identity_block(x, 3, [128, 128, 512], stage=4, block='d')
    x = identity_block(x, 3, [128, 128, 512], stage=4, block='e')
    x = identity_block(x, 3, [128, 128, 512], stage=4, block='f')
    f4 = x

    x = conv_block(x, 3, [256, 256, 1024], stage=5, block='a')
    x = identity_block(x, 3, [256, 256, 1024], stage=5, block='b')
    x = identity_block(x, 3, [256, 256, 1024], stage=5, block='c')
    f5 = x


    return img_input, [f1, f2, f3, f4, f5]

def _unet(n_classes , encoder , input_height = 256, input_width = 256):

    img_input , levels = encoder(input_height=input_height,input_width=input_width)
    [f1 , f2 , f3 , f4 , f5] = levels

    o = f5
    o = UpSampling2D((2, 2), data_format=IMAGE_ORDERING)(o)
    # o = ZeroPadding2D((1, 1) , data_format=IMAGE_ORDERING)(o)
    o = Conv2D(512, (2, 2), padding='same', data_format=IMAGE_ORDERING)(o)
    o = Activation('relu')(o)
    o = BatchNormalization()(o)
    o = concatenate([o,f4],axis=3)
    o = ZeroPadding2D((1, 1) , data_format=IMAGE_ORDERING)(o)
    o = Conv2D(512, (3, 3), padding='valid', data_format=IMAGE_ORDERING)(o)
    o = Activation('relu')(o)
    o = BatchNormalization()(o)
    o = ZeroPadding2D((1, 1) , data_format=IMAGE_ORDERING)(o)
    o = Conv2D(512, (3, 3), padding='valid', data_format=IMAGE_ORDERING)(o)
    o = Activation('relu')(o)
    o = BatchNormalization()(o)

    o = UpSampling2D((2, 2), data_format=IMAGE_ORDERING)(o)
    # o = ZeroPadding2D((1, 1) , data_format=IMAGE_ORDERING)(o)
    o = Conv2D(256, (2, 2), padding='same', data_format=IMAGE_ORDERING)(o)
    o = Activation('relu')(o)
    o = BatchNormalization()(o)
    o = concatenate([o,f3],axis=3)
    o = ZeroPadding2D((1, 1) , data_format=IMAGE_ORDERING)(o)
    o = Conv2D(256, (3, 3), padding='valid', data_format=IMAGE_ORDERING)(o)
    o = BatchNormalization()(o)
    o = ZeroPadding2D((1, 1) , data_format=IMAGE_ORDERING)(o)
    o = Conv2D(256, (3, 3), padding='valid', data_format=IMAGE_ORDERING)(o)
    o = BatchNormalization()(o)

    o = UpSampling2D((2, 2), data_format=IMAGE_ORDERING)(o)
    # o = ZeroPadding2D((1, 1) , data_format=IMAGE_ORDERING)(o)
    o = Conv2D(128, (2, 2), padding='same', data_format=IMAGE_ORDERING)(o)
    o = BatchNormalization()(o)
    o = concatenate([o,f2],axis=3)
    o = ZeroPadding2D((1, 1) , data_format=IMAGE_ORDERING)(o)
    o = Conv2D(128, (3, 3), padding='valid', data_format=IMAGE_ORDERING)(o)
    o = Activation('relu')(o)
    o = BatchNormalization()(o)
    o = ZeroPadding2D((1, 1) , data_format=IMAGE_ORDERING)(o)
    o = Conv2D(128, (3, 3), padding='valid', data_format=IMAGE_ORDERING)(o)
    o = Activation('relu')(o)
    o = BatchNormalization()(o)

    o = UpSampling2D((2, 2), data_format=IMAGE_ORDERING)(o)
    # o = ZeroPadding2D((1, 1) , data_format=IMAGE_ORDERING)(o)
    o = Conv2D(64, (2, 2), padding='same', data_format=IMAGE_ORDERING)(o)
    o = Activation('relu')(o)
    o = BatchNormalization()(o)
    o = concatenate([o,f1],axis=3)
    o = ZeroPadding2D((1, 1) , data_format=IMAGE_ORDERING)(o)
    o = Conv2D(64, (3, 3), padding='valid', data_format=IMAGE_ORDERING)(o)
    o = Activation('relu')(o)
    o = BatchNormalization()(o)
    o = ZeroPadding2D((1, 1) , data_format=IMAGE_ORDERING)(o)
    o = Conv2D(64, (3, 3), padding='valid', data_format=IMAGE_ORDERING)(o)
    o = Activation('relu')(o)
    o = BatchNormalization()(o)

    o = Conv2D(n_classes, (3,3) ,padding='same',data_format=IMAGE_ORDERING)(o)
    o = Reshape((int(input_height)*int(input_width),-1))(o)
    o = Softmax()(o)
    model = Model(img_input,o)

    return model

def conv_unet(n_classes , input_height=256, input_width=256):

    model = _unet(n_classes,get_resnet50_encoder,input_height=input_height,input_width=input_width)
    model.model_name = 'conv_unet'
    return model

model = conv_unet(2)
model.summary()

什么？你用的不是Keras？
什么？你用的Pytroch？

小绵羊在努力
关注
  • 15
    点赞
  • 踩
  • 131
    收藏
    觉得还不错? 一键收藏
  • 14
    评论
专栏目录
各种用于图像分割的Unet模型的实现-Unet，RCNN-Unet，Attention Unet，RCNN-Attention Unet，嵌套Unet-Python开发
05-25
各种Unet模型用于图像分割的实现-Unet，RCNN-Unet，注意力Unet，RCNN-Attention Unet，嵌套式Unet细分Unet细分-Pytorch-Nest-of-Unets各种Unet模型用于图像分割的实现UNet- U-Net：用于生物医学图像分割的卷积网络https://arxiv.org/abs/1505.04597 RCNN-UNet-基于U-Net的递归残差卷积神经网络（R2U-Net）用于医学图像分割https：// arxiv。 org / abs / 1802.06955 Attention Unet-Attention U-Net：学习在哪里寻找胰腺https://arxiv.org/abs/1804.03999 RCNN-Attentio
PyTorch用残差网络训练 Imagenet 分类器代码.zip
08-13
PyTorch用残差网络训练 Imagenet 分类器代码
图像分割UNet系列------Res-UNet详解
热门推荐
gz7seven
08-10 3万+
图像分割unet系列------Res-UNet详解1、Res-UNet要解决的问题2、Res-UNet主要网络结构3、引发的思考     Res-UNet发表于2018年，是UNet非常重要的改进版本之一。当然，Res-UNet同样是应用在医学图像分割领域-----视网膜血管分割。 1、Res-UNet要解决的问题     作者在文章的简介中就提到了视网膜血管分割任务的主要难点和挑战，这也是Res-UNet重点解决的问题，具体如下所示（直接翻译）： 小血管缺失：位于血管末端的小血管有时甚至人眼也难以分辨
unet各模块内容的理解（包含注意力机制、残差、以及数据维度的变化）
m0_52985451的博客
03-17 1381
对unet的各模块内容进行梳理，包括各模块的设计，以及数据流的整个处理流程，以及其维度的变化
【干货教学】unet进阶，如何在unet中加入resnet（残差连接）
BluErroR的博客
11-25 4818
在本教程中，我们将探讨如何在经典的U-Net架构中融入ResNet的残差连接。这种结合了U-Net在图像分割领域的优势和ResNet的残差连接的混合模型，我们称之为ResUnet，旨在通过残差学习改善模型的训练效率和性能。
基于加权的Res-UNet注意力机制分割视网膜血管分割挑战
爱CV
01-27 7326
•小血管缺失:位于树枝末端的小血管有时甚至人眼也难以分辨。 •视盘区分割差:视盘区往往较亮，对比度较低，使得视网膜血管难以分割。 •无法维持结构关系:视网膜血管有类似于树木的分叉结构。但当血管太薄而无法探测时，这种结构很难维持。 •照明:光照不足或过度暴露，包括相机光源引起的光反射，会降低图像对比度，导致视网膜血管边界不清晰。 为了解决这些挑战，本文提出：加权的Res-UNet。模型建立在原始的UNet模型基础上，并增加了一个加权注意机制。使得模型学习更多的鉴别血管和非血管像素的特征，更好的维护视网膜血管
残差网络ResNet模块
04-21
ResNet网络结构模块，可直接使用，返回值一个是loss用于损失值优化，第二个softmax输出的是预测值用于测试
unet是残差网络吗_基于UNet神经网络的城市人流预测
weixin_32374445的博客
01-14 967
[原创]1 利用手机信令数据计算人口流动数据手机信令数据是研究人口的整体流动情况的重要数据来源。移动运营商在为手机用户提供实时通讯服务时，积累了大量的基站与设备的服务配对数据。根据配对和唤醒发生的时间以及基站的地理位置，可以很自然划定一定时间和空间范围，统计每一个时间范围内在特定空间区域内手机设备的停留，进入和离开数据，并据此估算相应的人流数据。传统的人口网格分析过程一般只关注单个网格内某个时间点...
Resnet论文笔记
weixin_43774841的博客
11-05 1584
这里写自定义目录标题欢迎使用Markdown编辑器新的改变功能快捷键合理的创建标题，有助于目录的生成如何改变文本的样式插入链接与图片如何插入一段漂亮的代码片生成一个适合你的列表创建一个表格设定内容居中、居左、居右SmartyPants创建一个自定义列表如何创建一个注脚注释也是必不可少的KaTeX数学公式新的甘特图功能，丰富你的文章UML 图表FLowchart流程图导出与导入导出导入 欢迎使用Markdown编辑器 你好！ 这是你第一次使用 Markdown编辑器 所展示的欢迎页。如果你想学习如何使用Mar
【代码复现】ResUNet++进行语义分割（含图像切片预处理）
weixin_44883789的博客
08-26 2227
可能由于显卡内存不够的原因，导致尺寸很大的图片进行训练时，导致GPU显存不够的情况，一个简单的方法：对图片进行切片操作。对图片进行。
unet是残差网络吗_ResNet改进版来了！可训练网络超过3000层！相同深度精度更高...
weixin_35012535的博客
12-19 1728
学习了~来自阿联酋起源人工智能研究院(IIAI)的研究人员公布了一篇论文Improved Residual Networksfor Image and Video Recognition，深入研究了残差网络不能更深的原因，提出了改进版的残差网络(Improved Residual Networks，iResNet)，使得训练超深网络时更容易收敛，在多个计算机视觉任务(图像分类，COCO...
融合Resnet50和U-Net的眼底彩色血管图像分割.docx
07-13
融合Resnet50和U-Net的眼底彩色血管图像分割.docx
画残差图的matlab代码-Deep:深的
05-20
画残差图的matlab代码
Deep Residual U-Net.pdf
05-08
Road Extraction by Deep Residual U-Net
深度残差学习 ----汇总
08-31
深度残差学习 ----汇总
深度残差网络ResNet-python源码.zip
05-02
深度残差网络ResNet-python源码.zip
深度学习-线性回归+基础优化算法
Einstein·Jun
04-28 1079
1、线性回归是对n维输入的加权，外加偏差。2、使用平方损失来衡量预测值和真实值的差异。3、线性回归有显示解。4、线性回归可以看做是单层神经网络。我们将从零开始实现整个方法，包括数据流水线、模型、损失函数和小批量随机梯度下降优化器。"""生成y=Xw+b+噪声。"""print('features:', features[0], '\nlabel:', labels[0])里插入代码片正态分布函数：normal()
LLM2Vec介绍和将Llama 3转换为嵌入模型代码示例
最新发布
deephub
05-05 633
通过LLM2Vec，我们可以使用LLM作为文本嵌入模型。但是简单地从llm中提取的嵌入模型往往表现不如常规嵌入模型。LLM2Vec的作者提出了新的训练目标MNTP和SimCSE来训练从llm中提取的嵌入模型。这种训练成本很高，但根据作者的说法，可以产生更好的嵌入模型。
基于光伏电站真实数据集的深度学习预测模型（Python代码，深度学习五个模型）
qq_40840797的博客
04-29 552
3.模型（LSTM；LSTM_transform模型）评价指标。前6行的10列数据（黄色部分）作为特征输入，第7行的第10列数据（红色部分）为标签。每一行前9列（黄色部分） 作为特征输入，每一行的第10列值作为标签（红色部分）根据已获取的历史数据预测下一个时间点或者未来多个时间点 更符合实际。5. 对数据集和代码感兴趣的，可以关注最后一行。1min是以1min 间隔采集的数据集。这里分别保存了不同间隔采样时间表格。数据集截图（开始位置截图）4.效果图(测试集)
attention res-unet原文
07-27
引用\[1\]:Li, H., Xiong, P., An, J., Wang, L.: Pyramid attention network for semantic segmentation. arXiv preprint arXiv:1805.10180 (2018) 。 引用\[2\]:原文地址：RAUNet: Residual Attention U-Net for Semantic Segmentation of Cataract Surgical Instruments Abstract 。 引用\[3\]:解码器通过上采样恢复位置细节。然而，上采样会导致边缘模糊和位置细节丢失。现有的一些工作\[8\]采用跳转连接将低级特征与高级特征连接起来，这有助于补充位置细节。但这是一种幼稚的方法。由于底层特征中缺乏语义信息，因此包含了大量无用的背景信息。该信息可能会干扰目标对象的分割。为了解决这个问题，增强注意模块被设计成捕捉高级语义信息并强调目标特征。 。 问题:请提供attention res-unet原文。 回答:很抱歉，我无法提供attention res-unet的原文。但是根据引用\[1\]和引用\[2\]的信息，可以得知Pyramid attention network和RAUNet是两种用于语义分割的模型。Pyramid attention network是一种基于金字塔注意力机制的网络，用于语义分割任务\[1\]。而RAUNet是一种用于白内障手术器械语义分割的残差注意力U-Net模型\[2\]。根据引用\[3\]的描述，注意力模块被设计用于捕捉高级语义信息并强调目标特征，以解决上采样导致的边缘模糊和位置细节丢失的问题。 #### 引用[.reference_title] - *1* *2* *3* [Residual Attention U-Net 论文笔记](https://blog.csdn.net/charles_zhang_/article/details/124209523)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra":{"utm_source":"vip_chatgpt_common_search_pc_result","utm_medium":"distribute.pc_search_result.none-task-cask-2~all~insert_cask~default-1-null.142^v91^control_2,239^v3^insert_chatgpt"}} ] [.reference_item] [ .reference_list ]

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 14
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值