【深度学习】Unet++(pytorch实现)

向AI转型的程序员都关注了这个号

Unet++网络

Dense connection

Unet++继承了Unet的结构,同时又借鉴了DenseNet的稠密连接方式(图1中各种分支)。

753d6b2047f6d7efed6aa79cc4a1a076.png

作者通过各层之间的稠密连接,互相连接起来,就像Denset那样,前前后后每一个模块互相作用,每一个模块都能看到彼此,那对彼此互相熟悉,分割效果自然就会变好。

在实际分割中,一次次的下采样自然会丢掉一些细节特征,在Unet中是使用skip connection来恢复这些细节,但能否做的更好呢?Unet++就给出了答案,这种稠密连接的方式,每一层都尽量多的保存这种细节信息和全局信息,一层层之间架起桥梁互相沟通,最后共享给最后一层,实现全局信息和局部信息的保留和重构。 

deep supervision

当然,简单的将各个模块连接起来是会实现很好的效果。而我们又能发现,一个Unet++其实是很多个不同深度的Unet++叠加。那么,每一个深度的Unet++是不是就都可以输出一个loss?答案自然是可以的。

所以,作者提出了deep supervision,也就是监督每一个深度的Unet++的输出,通过一定的方式来叠加Loss(比如加权的方式),这样就得到了一个经由1、2、3、4层的Unet++的加权Loss(图2 不同深度Unet++融合)。

bccf21ee03883fcef8ad36eeabb48c2f.png

那么,deep supervision又有什么用呢?-剪枝

既然Unet++由多个不同深度的Unet++叠加起来,那么随意去掉一层,前向传播的梯度不会受到任何变化,但你发现Unet++第三个输出的效果和第四个输出效果差不多时,那就可以毫不犹豫删去4层深度的Unet++。比如,直接删去图3中棕色部分,就可以实现剪枝。这样,就得到了更加轻量化的网络。

023167d9d02d052e9acdc470b1ac0d12.png

模型复现

Unet++

为了更直观一些,我把代码中的所有符号都和网络结构中对应上了。

42f9bfbef2225c3c5596eba38a5eea2e.png

5f3ace20dd6ed0033c3d8cc9a441fd20.png

7f0c82e51b82a4baa0fdc56fc84c5562.png

4f5a769db041b287527214a4aef81886.png

6300d62c9d38ae5d994186362845002c.png

b3ec934d48c574bf1aa521ae07bbaf78.png

4078207f3c313b108cbc2b2b20b7ac14.png

97357b16d0c3d2e885a5920cdf3fca7d.png

数据集准备

数据集使用Camvid数据集,可在CamVid数据集的创建和使用-pytorch中参考构建方法。

https://blog.csdn.net/yumaomi/article/details/124786867

27280ed3cfc7c681edcbfaa0f05613b1.png

897f98ba594f565f1277df5764e6f379.png

35205a33b9538287eb3068b2751d16f6.png

a6a0037cd08bfb7cbb638f22629e57b5.png

b1969e6bfd655db00bdb84852de177a1.png

e24e0b1ad6223addd0f5c0f2afe632d3.png

4d71e349601353b419eb623e263e3fde.png

1cb8654ed29b1de5eb236b3808acbbe3.png

训练结果

57c2217a6906fc178e1529de8e0bdf6a.png

原文地址

https://blog.csdn.net/yumaomi/article/details/124823392

 
 

d7bde100ecb61c9025daf443c391fc12.jpeg

 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
往期精彩回顾




适合初学者入门人工智能的路线及资料下载
(图文+视频)机器学习入门系列下载
机器学习及深度学习笔记等资料打印
《统计学习方法》的代码复现专辑
  • 交流群

欢迎加入机器学习爱好者微信群一起和同行交流,目前有机器学习交流群、博士群、博士申报交流、CV、NLP等微信群,请扫描下面的微信号加群,备注:”昵称-学校/公司-研究方向“,例如:”张小明-浙大-CV“。请按照格式备注,否则不予通过。添加成功后会根据研究方向邀请进入相关微信群。请勿在群内发送广告,否则会请出群,谢谢理解~(也可以加入机器学习交流qq群772479961)

8514593008ec77711e76ec3fd24f2b6d.png

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值