《论文阅读》FocalMix: Semi-Supervised Learning for 3D Medical Image Detection

最新推荐文章于 2023-08-29 15:19:34 发布
最新推荐文章于 2023-08-29 15:19:34 发布
阅读量1.4k 收藏 13
点赞数 4
分类专栏： 深度学习 计算机视觉 文章标签： 深度学习 人工智能
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/qq_43310834/article/details/108442723
版权

留个笔记自用

FocalMix: Semi-Supervised Learning for 3D Medical Image Detection

做什么

在这里插入图片描述
3D医学图像分割，也是传统应用了，就是把图像分成若干个特定的、具有独特性质的区域并提出感兴趣目标的技术和过程，图中的一个个橙色和蓝色的框称为锚框，常用不同大小的锚框来进行对目标位置的检测（即每个锚框代表是正样本还是负样本）

做了什么

目标检测中常见的预测情况下正样本的锚框相比负样本的锚框数量较少，所以常使用focal loss
在这里插入图片描述
这里的y是GT（即某个锚框属于正样本或者负样本），p是模型预测它属于正样本的概率，αt是对于两类即正类负类不同的权重值
接下来需要了解的还有半监督学习SSL，这里借鉴了一个叫mixmatch的模型
简单来说这个模型包括了两个部分：对未标签数据的预测和混合增强，首先是第一部分，首先是未标签数据的预测，对于每张未标签图，先进行不会更改语义的数据增强
在这里插入图片描述
然后再对其进行模型的预测，取K个增强后的图片的预测概率平均值
在这里插入图片描述
在这里插入图片描述
然后对其进行sharpen锐化操作，这里的T是控制输出向量的平滑度的一个超参数，比如当T=0时，输出向量为one hot向量，简单来说这里的操作就是为了让输出接近low-entropy形式，一旦未标记数据的训练目标可用，MixMatch将进一步利用混合增强
在这里插入图片描述
这里的x是随机抽取的一张标签图片或者未标签图片，y是它的标签或者它模型预测的概率，x‘和y’同理但是是另外一个数据点，这里的Beta是Beta样条插值，经过这个操作后就可以得到一组从标签数据和未标签数据中增广得到的一组训练数据。

怎么做

在这里插入图片描述
整个结构与MixMatch一样也分为两个大部分，对未标签数据的预测和混合增强部分
首先是对未标签数据的预测即target prediction部分
在这里插入图片描述
首先是第一部分，大概思路和MixMatch很类似，首先这是对未标签的数据进行的增强预测，这部分首先将未标签图片sample出一个patch大小（原文是160×160×160），然后对其进行翻转等数据增强，经过FPN进行预测出各自增强情况下的结果，FPN在以前文章中提到过
NAS-FCOS
然后就是将不同的数据增强后的结果进行相加取平均（对同一个位置的锚框），最后再用上面同样的方式进行锐化
在这里插入图片描述
然后是第二部分混合增强部分，这部分存在的输入有标签数据和它的锚框标签，未标签数据和它数据增强后的平均预测结果，即x和y。这部分也分为了两个小部分，image-level和object-level
在这里插入图片描述
首先是image-level部分，这部分的输入是上面介绍的(x,y)和(x’,y’)，而它们的混合方式采用的是锚框级别的，就是对各自图片上的锚框进行混合，而混合方式也和上面相同
在这里插入图片描述
在这里插入图片描述
然后是最后一部分object-level，这部分的意思大概是说因为对这种医学图像分割来说，往往重要部分即锚框标注的可能病变部分相比于整个背景来说比较小，而且包含的信息要更加重要，所以为了增强这部分的大小或者说是信息，对于每张图的每个对象都从训练集中抽取另外一张图，将两者对象混合增强
然后是整个训练的loss，这里提出的loss叫soft-target focal loss
在这里插入图片描述
将focal loss 引入比较
在这里插入图片描述
这里的α0和α1都是参数，类似于上面的αt，y是label，p是预测值，这里的CE就是普通的cross-entropy
在这里插入图片描述

总结

1.SSL方法似乎很强大的样子，主要感觉就是学习MixMatch的设计方式了

未知丶丶
关注
  • 4
    点赞
  • 踩
  • 13
    收藏
    觉得还不错? 一键收藏
  • 1
    评论
专栏目录
SSL4MIS:用于医学图像分割的半监督学习，文献综述和代码实现的集合
03-19
医学图像分割的半监督学习。 近来，半监督图像分割已成为医学图像计算中的热门话题，不幸的是，由于隐私策略等原因，只有少数开源代码和数据集。为了便于评估和公平比较，我们正在尝试建立一个半监督医学图像分割基准，以促进医学影像计算社区中的半监督学习研究。如果您有兴趣，可以随时将实现或想法推送到此存储库。 该项目最初是为我们以前的工作开发的，如果您发现对您的研究有用，请考虑引用以下内容： @article{luo2020urpc, title={Efficient Semi-supervised Gross Target Volume of Nasopharyngeal Carcinoma Segmentation via Uncertainty Rectified Pyramid Consistency}, author={Luo, Xiangde and Liao, Wen
Semi Supervised Learning for Few Shot Image to Image Translation
07-18
To do so, we propose applying semi-supervised learning via a noise-tolerant pseudo-labeling procedure. We also apply a cycle consistency constraint to further exploit the information from unlabeled ...
用于三维医学图像检测的半监督学习——FocalMix: Semi-Supervised Learning for 3D Medical Image Detection
阿波
07-02 4131
本文记录下阅读 CVPR2020论文 其中的《FocalMix: Semi-Supervised Learning for 3D Medical Image Detection》，更新于2020.7.1 —— 阿波 论文逻辑目录AbstractIntroductionBackground and Preliminaries Abstract 人工智能技术在医学成像中的应用是医学领域最有前景的领域之一。然而，最近在这一领域的成功很大程度上依赖于大量仔细注释的数据，而注释医学图像是一个昂贵的过程。 在本文中，我
[论文阅读] Multi-task Attention-Based Semi-supervised Learning for Medical Image Segmentation
xiongxyowo的博客
07-11 793
[论文地址] [代码] [MICCAI 19]我们提出了一种新型的半监督图像分割方法，它同时优化了监督分割和无监督重建目标。重建目标使用一种注意力机制，将对应于不同类别的图像区域的重建分开。所提出的方法在两个应用中进行了评估：脑瘤和白质超密集区的分割。我们的方法在未标记的和少量标记的图像上进行训练，其表现优于用相同数量的图像训练的有监督的CNN和在未标记的数据上预训练的CNN。在消融实验中，我们观察到，所提出的注意机制大大改善了分割性能。我们探索了两种多任务训练策略：联合训练和交替训练。交替训练需要较少的超
2.翻译和笔记Multi-Task Attention-Based Semi-Supervised Learning for Medical Image Segmentation
weixin_44846755的博客
09-30 826
Multi-Task Attention-Based Semi-Supervised Learning for Medical Image Segmentation的翻译与笔记
CVPR2023 Pseudo-Label Guided Contrastive Learning for Semi-Supervised Medical Image Segmentation
qq_43656233的博客
08-29 1919
尽管最近半监督学习（SemiSL）方面的工作在自然图像分割方面取得了巨大的成功，但从有限的注释中学习判别性表示的任务一直是医学图像中的一个悬而未决的问题。对比学习（CL）框架使用相似性度量的概念，这对于分类问题很有用，但是它们无法将这些质量表征转移到精确的像素级分割。为此，我们提出了一种新颖的基于半监督补丁的 CL 框架，用于医学图像分割，而不使用任何显式的借口任务。我们利用 CL 和 SemiSL 的强大功能，其中 SemiSL 生成的伪标签通过提供额外的指导来帮助 CL，
参考论文1：SSDA-YOLO: SEMI-SUPERVISED DOMAIN ADAPTIVE YOLO FOR CROSS
最新发布
06-04
In this paper, we propose a novel semi supervised domain adaptive YOLO (SSDA-YOLO) based method to improve cross-domain detection performance by integrating the compact one-stage stronger detec
Self-labeled-techniques-for-semi-supervised-learning
05-15
用于半监督学习的自标记技术 2017年在罗马的Sapienza大学进行的一次神经网络项目课程。 项目报告： 实际部分： 创建的算法： 和
nips14-ssl:NIPS 2014 论文“Semi-Supervised Learning with Deep Generative Models”结果复现代码
06-28
使用深度生成模型重现我们的 NIPS 2014 论文关于半监督学习 (SSL) 的一些关键结果的代码。 DP Kingma、DJ Rezende、S. Mohamed、M. Welling 具有深度生成模型的半监督学习神经信息处理系统的进展 27 ( NIPS 2014 )...
Graph-Based Semi-Supervised Learning
01-09
In order to adapt to this phenomenon, several semi-supervised learning (SSL) algorithms, which learn from labeled as well as unlabeled data, have been developed. In a separate line of work, ...
论文解读《Semi-supervised Contrastive Learning for Label-efficient Medical Image Segmentation》
weixin_37591159的博客
03-31 4183
论文解读《半监督对比学习高效标签的医学图像分割》 期刊名： MICCAI 2021 代码： 代码地址 论文地址： 论文地址 摘要：深度学习方法在医学图像分割分割任务中的成功与否，很大程度上依赖于大量标注数据的监督训练。另一方面，生物医学l图像的注释需要领域知识，可能很费力。近年来，对比学习在学习图像的潜在表征方面表现出了巨大的潜力。现有的工作已经探索了它在生物医学图像分割中的应用，其中只有一小部分数据被标记，通过基于自我监督对比学习的训练前阶段，不使用任何标签，然后只对标记的部分数据进行监督微调阶段。 在
半监督学习+3D医疗图像检测 FocalMix
weixin_38665509的博客
08-24 3103
目录 Abstract 1.Contributions Introduction 2. Background and Preliminaries背景和准备工作 2.1.1 Anchor boxes 2.1.2 Focal Loss 2.2. Semi-supervised Learning 3. Methodology 3.1. Soft-target Focal Loss 3.2. Anchor-level Target Prediction 3.3. MixUp Augmenta.
【论文阅读】医疗影像分割中的半监督学习Semi-supervised
m0_37477175的博客
05-08 7466
前言 医疗影像的数据紧缺问题我就不再多bibi了，为了解决这个问题，出现了很多的方法，像主动学习，迁移学习，半监督学习等弱监督学习方法，部分方法在图像分类中有很突出的应用。但是！图像分割尤其是医疗影像分割方面的弱监督方法还有待发掘～当然，也存在一些简单的方法，比如使用少量的数据训练的模型去预测未标注的数据，得到伪标签然后加入训练集继续训练。。。（在分类任务中比较常用） 本博客就分享一偏使用半监督...
contrastive learning medical image segmentation
qq_44996943的博客
03-30 535
模型图中的PE,PCL,CCL模块。模型图中的CIP模块。
【半监督医学图像分割 2022 MICCAI】SCS 论文翻译
wujing1_1的博客
02-14 1657
摘要深度学习方法在医学图像分割任务中的成功与否，很大程度上依赖于大量标注数据的监督训练。另一方面，生物医学图像的注释需要领域知识，可能是费力的。近年来，对比学习在学习图像的潜在表征方面表现出了巨大的潜力。现有的工作已经探索了它在生物医学图像分割中的应用，其中只有一小部分数据被标记，通过基于自我监督对比学习的训练前阶段，不使用任何标签，然后只对标记的部分数据进行监督微调阶段。在本文中，我们建立了通过在训练前阶段包含有限的标签信息，可以提高对比学习的性能。我们提出了一种有监督的局部对比损失。
CVPR2020检测类论文最全汇总：136篇论文方向细分（附代码和论文打包下载）
胭脂草的ABC博客
08-03 4365
CVPR2020检测类论文最全汇总：136篇论文方向细分（附代码和论文打包下载） 为了方便大家进一步的学习，我们对这CVPR中的1467篇论文进行了整理，本次分享的是所有检测类论文，并将它们细分为3D目标检测、人脸检测、动作检测、视频目标检测、文本检测、行人检测等方向，同时附上了相关解读和已开源论文的代码，共计136篇，并将其打包，获取方式见文末。 3D目标检测 【1】Learning Deep Network for Detecting 3D Object Keypoints and 6D.
CVPR2020论文分方向整理之检测篇（代码/论文解读/136篇打包下载）
qwj的博客
08-19 5110
z CVPR2020论文分方向整理之检测篇（代码/论文解读/136篇打包下载） 极市平台（微信公众号ID：extrememart）：专注计算机视觉前沿资讯和技术干货。本文由极市平台首发，转载需获授权。 本周三，CVPR官方正式开放下载，极市第一时间将所有论文（共1467篇）进行了下载打包，详情见此处。为了方便大家进一步的学习，我们对这1467篇论文进行了整理，本次分享的是所有检测类论文，并将它们细分为3D目标检测、人脸检测、动作检测、视频目标检测、文本检测、行人检测等方向，同时附上了相关解读.
知识图谱在深度学习目标检测中的应用
阿波
04-23 6727
知识图谱是什么？深度学习的目标检测怎么和它相结合？我将带大家一起来解读其中奥秘——阿波，2020.4.16 检索摘要写在前面二级目录三级目录 写在前面 知识图谱： 范例文章： 我将从先从知识图谱的介绍着手，浅要分析在深度学习目标检测任务中，各目标之间的相对关系是如何提升检测器精度的，并给出一篇论文范例。 二级目录 三级目录 ...
DSL: Dense Learning based Semi-Supervised Object Detection代码复现教程
05-31
很高兴回答您的问题！以下是DSL: Dense Learning based Semi-Supervised Object Detection代码复现教程的步骤： 1. 准备数据集 首先，您需要下载PASCAL VOC数据集，并在您的计算机上设置相应的路径。您可以在以下链接中找到数据集：http://host.robots.ox.ac.uk/pascal/VOC/ 2. 安装依赖项 您需要安装以下依赖项： - PyTorch - Torchvision - PIL - NumPy 您可以使用pip来安装它们： ``` pip install torch torchvision Pillow numpy ``` 3. 下载代码 您需要从GitHub上下载DSL代码。您可以使用以下命令： ``` git clone https://github.com/youansheng/DSL.git ``` 4. 训练模型 运行train.py文件以训练模型。您需要指定一些参数，例如数据集路径、批量大小、学习率等。以下是一个示例命令： ``` python train.py --dataset_path /path/to/dataset --batch_size 16 --lr 0.001 ``` 5. 测试模型 运行test.py文件以测试已训练的模型。您需要指定一些参数，例如数据集路径、批量大小等。以下是一个示例命令： ``` python test.py --dataset_path /path/to/dataset --batch_size 16 ``` 6. 可视化结果 您可以使用visualize.py文件来可视化测试结果。以下是一个示例命令： ``` python visualize.py --dataset_path /path/to/dataset --batch_size 16 ``` 这些就是DSL代码复现教程的步骤。希望对您有所帮助！

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 1
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值