Unet++-学习记录

 引入：本次学习内容基本来自于Zongwei Zhou, Md Mahfuzur Rahman Siddiquee编写的的《UNet++: A Nested U-Net Architecture for Medical Image Segmentation》，以及部分讲解视频，本学习记录仅为个人学习收获，部分内容存在纰漏烦请各位大佬批评指正。
（一）摘要：论文提出了一种名为UNet++的深度学习架构，用于医学图像分割任务。该架构基于经典的U-Net模型，并通过嵌套的跳过连接和深度监督机制来改进分割结果的准确性和性能。

（二）发表时间：2018

（三）关键词：图像分割，深度监督，医学应用，跳跃连接

（四）学习记录：

UNet++，用于医学图像分割。该架构实质上是一个深度监督的编码器-解码器网络，其中编码器和解码器子网络通过一系列嵌套的稠密跳跃路径连接在一起。作者认为，当解码器和编码器网络的特征图在语义上相似时，优化器将处理更容易的学习任务。

其基本结构如图所示。

UNet++从一个编码器子网络或骨干网开始，然后是一个解码器子网络。UNet++与U-Net（图中的黑色部分）的区别在于重新设计的跳过路径（绿色和蓝色显示）连接了这两个子网络，并且使用了深度监督。

在U-Net中，编码器的特征图直接传递给解码器；然而，在UNet++中，它们经过一个稠密卷积块，该稠密卷积块的卷积层数取决于金字塔级别。例如，节点X0,0和X1,3之间的跳过路径由一个具有三个卷积层的稠密卷积块组成，其中每个卷积层前面都有一个连接层，该连接层将相同稠密块的先前卷积层的输出与较低稠密块的相应上采样输出融合。

深度监督（deep supervision）是一种在神经网络中使用多个损失函数的训练技术。传统的神经网络在训练过程中通常只使用最后一层的输出进行反向传播和参数更新，而忽略了中间层的信息。而深度监督通过在网络的不同层级上添加额外的损失函数，可以引导每一层更好地学习有效的特征表示。

在UNet++中，深度监督的应用方式是在跳过路径（skip pathway）上添加额外的损失函数。这些损失函数可以在不同语义级别生成的特征图上计算，并与真实标签进行比较。通过在多个层级上应用损失函数，可以使模型在更细粒度的特征层面进行监督学习，并充分利用不同级别的信息，从而提高分割模型的性能。

深度监督可以运行在两种模式下：

(1）准确模式，在该模式下，所有分割分支的输出取平均；

(2）快速模式，在该模式下，最终的分割图仅来自于一个分割分支，选择哪个分支决定了模型修剪的程度和速度增益。