一.摘要:
问题:
2018Brats challenge
方法:
用u-net训练,加上了一些微小的改进,加上一些额外的数据
结果:
第二名
一个训练的很好的u-net可以取得一个非常好的结果,并且作者觉得努力去更改网络的结构的那些人很有意思(嘲讽66666)
二.介绍:
相关工作:
在Brats2016的挑战中,DeepMedic-3D CNN(Kamnitsas et al),并且FCN和u-net也被使用了进来,
在Brats2017的挑战中,所有取得有竞争力名次的参赛者都偏向于使用encoder-decoder结构,2017 Kamnitsas et al凭借结合3D的U-net,DeepMedic,FCN取得了第一
Wang et al.用3个联合的CNN分别分割whole,core,enhancing
Isensee et al.用U-net进行了分割(使用残差块仅在encoder,使得解码器尽可能的简单,使用dice损失和深度监督)
贡献:
作者发现,各种encoder-decoder的变体数量庞大,使得研究者不知道去追踪哪个比较好,作者通过一个训练的特别好的u-net产生了一个很有竞争力的结果,并发现这些变体对于一个训练好的u-net并没有好处。
三.方法:
预处理:
我们对每一个病人的每一个模态,进行0均值方差化
网络结构:
batchsize:2
3D-unet,进行了一点点改动,[15]
(1).在上采样之前减少了特征维度,这使得我们在encoder阶段的最高分辨率的时候可以训练对于之前模型将近两倍数量feature map的模型(30)
(2).使用leaky relu代替 relu,
(3).使用instance normalization[23]而不是batch normalization(跟18年一样也是因为batchsize小,选择别的正则化方式),使用它在卷积层和激活层之间
训练细节:
(1)块128x128x128,batch_size2,250batch_size作为一个epoch,训练500epoch
(2)如果验证损失的指数移动平均值(α= 0.95)在过去60个时期内没有改善,则训练提前终止。
(3)使用ADAM优化器进行训练,初始学习率lr init = 1·10 -4,每当上述移动平均值的验证损失在过去30个epoch内没有改善时,该因子减少5倍。 我们通过l2权重衰减10-5来规范化。
(4)dice是影响排名最重要的一个指标,所以我们这里使用多累dice损失,如下图:
(5)数据增强:random rotations, random scaling, random elastic deformations, gamma correction augmentation and mirroring.
来防止过拟合,使用的是我们的自己的框架,并且已经开源:https://github.com/MIC-DKFZ/batchgenerators
(6)因此,在测试时,我们一次分割整个患者,减轻了在使用具有填充卷积的网络计算切片中的分割时可能出现的问题。 此外,我们通过镜像图像和平均softmax输出来使用测试时间数据增强(什么叫镜像图像和平均softmax输出?)。
区域预测:
作者认为过于复杂的级联网络结构不必要(像17年wang的那一篇),但是作者通过将softmax改成3个2分类的sigmoid来分类,来优化不同的肿瘤区域(为什么3个sigmoid可以优化),后面直接接一个dice loss
Cotraining:
没看懂。。可以看下mheads再回来看
后处理:
BraTS挑战数据中最具挑战性的部分之一是区分肿瘤核心区域的小血管(必须将其标记为坏死水肿)与增强肿瘤。 由于这对于可能根本没有增强肿瘤的LGG患者特别有害,如果患者中存在少于500个增强的肿瘤体素,则我们用坏死替换所有增强的肿瘤体素。
四.实验结果:
评估平台:https://ipp.cbica.upenn.edu/
在训练集上做5折交叉验证,并且非常有信心在训练集上的交叉验证比验证集会好,因为验证集样本(66 cases)太少了
由于测试集上的肿瘤骰子评分通常低于近期BraTS挑战中几乎所有参与者的验证和训练集分数,我们认为该测试集包含许多LGG病例而没有增强肿瘤标记,因此我们的后处理是一种很有前景的方法。 最大化我们的dice分数。
验证集:
图2显示了从性能最佳的模型生成的例子。 显示的患者取自验证组(CBICA AZA 1)。 从中间(t1ce)可以看出,有几个血管靠近增强肿瘤。 分割CNN通常难以正确区分这些血管和实际增强的肿瘤。 这很可能是由于a)难以检测到管状结构b)很少有这些血管存在问题的训练案例c)使用dice损失函数,由于它们的尺寸相对较小而无法充分惩罚血管的错误分割。 在此处显示的情况下,我们的模型正确地将血管分割为背景。
Leaderboard:
总结:
1.作者使用了一个训练的比较好的u-net来进行分割,取得了第二名的成绩
2.作者将decoder部分在上采样之前,减少了feature map的数量,使得encoder可以采用更多的feature map
3.加入了自己的训练数据来进行训练,
4.使用dice损失函数,可以增强dice值
5.使用sigmoid代替softmax来优化区域, mhead(??)
6.BraTS挑战数据中最具挑战性的部分之一是区分肿瘤核心区域的小血管(必须将其标记为坏死水肿)与增强肿瘤,所以作者将小于500体素的增强肿瘤换为坏死,这对LGG有好处,因为LGG没有增强