半监督
文章平均质量分 94
半监督
說詤榢
苦而不言,喜而不语。
展开
-
半监督图像分割-综述
语义分割是计算机视觉中一个重要而热门的研究领域,其重点是根据图像中像素的语义对其进行分类。然而,监督式深度学习需要大量的数据来训练模型,并且逐像素标记图像的过程既耗时又费力。本文旨在对半监督语义分割领域中伪标签方法的最新研究成果进行全面和有组织的综述,从不同的角度对其进行分类,并针对具体的应用领域提出具体的方法。此外,我们还探索了伪标签技术在医学和遥感图像分割中的应用。最后,针对目前存在的挑战,提出了未来可行的研究方向。原创 2024-05-22 15:31:53 · 1129 阅读 · 0 评论 -
【半监督图像分割 2023 】BHPC
半监督学习(Semi-supervised learning, SSL)是解决模式识别和医学图像分割中标注稀缺性问题的常用技术,主要集中在两个关键问题上:1)学习结构良好的可分类嵌入空间,2)建立嵌入空间到像素空间的鲁棒映射。在本文中,为了解决第一个问题,我们提出了一种硬正定向对比(HPC)学习策略来预训练基于编码器-解码器的分割模型。原创 2024-02-17 22:36:04 · 1089 阅读 · 0 评论 -
【半监督医学图像分割】2022-MedIA-UWI
由于难以获取大量标记数据,半监督学习在医学图像分割中正成为一种有吸引力的解决方案。为了利用未标记数据,目前流行的半变量方法(如时态集成、均值教师)主要对未标记数据施加数据级和模型级的一致性。在本文中,我们认为除了这些策略之外,我们还可以进一步利用辅助任务和考虑任务级一致性来更好地从未标记数据中挖掘有效的表示来进行分割。原创 2023-09-02 16:26:47 · 962 阅读 · 0 评论 -
【半监督医学图像分割 2023 CVPR】PatchCL
尽管最近在半监督学习(SemiSL)方面的工作在自然图像分割方面取得了巨大的成功,但从有限的注释中学习鉴别性表征的任务在医学图像中一直是一个公开的问题。对比学习(CL)框架使用相似性测量的概念,这对分类问题是有用的,然而,他们未能将这些高质量的表示转移到准确的像素级分割中。为此,我们提出了一个新颖的基于patch的半监督医学图像分割框架,而不使用任何明确的前提任务。原创 2023-07-19 21:49:17 · 4188 阅读 · 3 评论 -
【自监督预训练 2023】MCL
在这项工作中,我们提出了一种用于密集预测任务的多级对比学习(MCL),这是一种有效的用于密集预测任务的区域级特征表示的自监督学习方法。定位尺度一致性和识别。为了显式地编码绝对位置和尺度信息,我们提出了一种新的借口任务,该任务以蒙太奇方式组装多尺度图像来模拟多目标场景。与现有的图像级自监督方法不同,我们的方法构造了一个多级对比损失,将蒙太奇图像的每个子区域视为一个单独的子区域。我们的方法使神经网络能够学习区域语义表示,以实现翻译和尺度一致性,同时将预训练的时间缩短到与有监督预训练相同的时间。原创 2023-07-19 17:02:56 · 1032 阅读 · 0 评论 -
【半监督医学图像分割 2022 TMI】ASE-Net
目前流行的半监督医学图像分割网络由于在不同的数据扰动下使用一致性学习来正则化模型训练,经常受到未标记数据的错误监督。这些网络忽略了标记和未标记数据之间的关系,只计算单个像素级的一致性,导致预测结果不确定。此外,由于骨干网的设计依赖于有监督的图像分割任务,这些网络往往需要大量的参数。此外,由于半监督图像分割通常采用少量的训练样本,这些网络往往面临较高的过拟合风险。针对上述问题,本文提出了一种基于动态卷积(ASE-Net)的对抗自拟网络,用于半监督医学图像分割。原创 2023-07-16 10:59:34 · 944 阅读 · 0 评论 -
【半监督医学图像分割 2022 IJCAI】UGPCL
近年来,对比学习在医学图像分割中显示出巨大的潜力。然而,由于缺乏专家注释,将对比学习应用于半监督场景具有挑战性。为了解决这一问题,我们提出了一种新的不确定性引导的像素对比学习方法用于半监督医学图像分割。具体来说,我们为每个未标记图像构造一个不确定性映射,然后去除不确定性映射中的不确定性区域,以减少噪声采样的可能性。不确定性映射是由一个精心设计的一致性学习机制确定的,该机制通过鼓励来自两个不同解码器的一致网络输出来为未标记数据生成综合预测。原创 2023-07-15 17:47:10 · 937 阅读 · 5 评论 -
【半监督医学图像分割 2023 MICCAI】SCP-Net
一致性学习在半监督医学图像分割中起着至关重要的作用,它可以有效地利用有限的标注数据,同时充分利用丰富的未标注数据。一致性学习的有效性和效率受到预测多样性和训练稳定性的挑战,而这两个问题往往被现有的研究所忽视。同时,用于训练的标记数据数量有限,往往不足以形成伪标记的内部紧凑性和类间差异。为了解决这些问题,我们提出了一种自感知的跨样本原型学习方法(SCP-NET),通过利用从多个输入中获得的更广泛的语义信息来提高一致性学习中预测的多样性。此外,我们引入了一种自我感知的一致性学习方法。原创 2023-07-05 22:01:24 · 1346 阅读 · 1 评论 -
【半监督图像分割 2022 CVPR】UCC
深度神经网络(DNNs)在语义分割方面取得了巨大的成功,这需要大量的标记数据进行训练。我们提出了一个新颖的学习框架,称为不确定性引导的交叉头协同训练(UCC),用于半监督的语义分割。我们的框架在一个共享编码器中引入了弱增强和强增强,以实现协同训练,这自然结合了一致性和自我训练的好处。每个分割头都与它的同伴互动,弱增强的结果被用来监督强增强。一致性训练样本的多样性可以通过动态交叉集复制粘贴(DCSCP)来提高,这也缓解了分布不匹配和类不平衡的问题。此外,我们提出的不确定性引导的再加权模块。原创 2023-06-30 14:17:28 · 945 阅读 · 0 评论 -
【半监督图像分割 2022 NeurIPS】GTA-Seg
半监督语义切分旨在利用有限的标记数据和大量的未标记数据训练切分模型。为了有效地利用未标记数据,伪标记和师生框架被广泛地应用于半监督语义分割。尽管该范式被证明是有效的,但它不可避免地存在错误的伪标签,并被用作辅助训练数据。为了缓解不正确的伪标签带来的负面影响,我们深入研究了现有的半监督语义分割框架。我们认为,带有伪标签的未标记数据可以促进特征提取器中代表性特征的学习,但监督掩码预测器是不可靠的。原创 2023-06-29 15:36:08 · 762 阅读 · 0 评论 -
【半监督语义分割 2023 CVPR】CCVC
半监督语义分割由于能够有效地利用大量的无标注数据,从而减少对大规模的完全标注训练数据的需求,近年来得到了越来越多的研究兴趣。现有的方法经常会受到伪标记过程中的确认偏差的影响,这种偏差可以通过协同训练框架得到缓解。现有的基于协同训练的半监督语义分割方法依靠人工扰动来防止子网之间的相互崩溃,但这些人工扰动不能导致最优解。在这项工作中,我们提出了一种基于冲突的跨视图一致性(CCVC)的半监督语义分割方法。我们的工作旨在加强这两个子网从无关的视图中学习信息特征。原创 2023-06-27 18:49:18 · 1276 阅读 · 0 评论 -
【半监督图像分类 ICLR 2023】FreeMatch
半监督学习(SSL)由于基于伪标记和一致性正则化的各种方法所带来的优异性能而取得了巨大的成功。然而,我们认为,现有的方法要么采用预先定义/固定的门限,要么采用自适应门限调整方案,可能无法更有效地利用未标记数据,从而导致性能低下和收敛速度慢。我们首先分析了一个激励示例,以获得关于期望阈值与模型学习状态之间关系的直观性。在此基础上,我们提出了FreeMatch模型,根据模型的学习状态自适应地调整置信度阈值。我们进一步引入了一个自适应的类公平性正则化惩罚,以鼓励模型在早期训练阶段进行多样化的预测。原创 2023-06-27 15:20:36 · 2071 阅读 · 5 评论 -
【半监督图像分类 2022 CVPR 】Semi-ViT
我们研究了视觉Transformer(VIT)的半监督学习(SSL)。尽管VIT体系结构在不同的任务中得到了广泛的应用,但这是一个尚未被深入研究的课题。为了解决这个问题,我们提出了一种新的SSL流水线,它首先由非/自监督的预训练,然后是监督的微调,最后是半监督的微调组成。在半监督微调阶段,我们采用指数移动平均(EMA)-教师框架来代替流行的FixMatch,因为前者对半监督Transformer来说更稳定,提供更高的精度。原创 2023-06-26 17:24:57 · 1075 阅读 · 3 评论 -
【半监督图像分割 2023 CVPR】UniMatch
在这项工作中,我们重新讨论了弱到强一致性框架,该框架由FixMatch从半监督分类中推广而来,其中对弱扰动图像的预测作为对其强扰动版本的监督。有趣的是,当转移到我们的分割场景中时,我们观察到这样一个简单的管道已经获得了与最近的高级作品相比的竞争性结果。然而,它的成功在很大程度上依赖于手工设计强大的数据增强,这可能是有限的,不足以探索更广阔的扰动空间。基于此,我们提出了一种辅助特征扰动流作为补充,从而扩展了扰动空间。原创 2023-06-15 11:45:45 · 3426 阅读 · 0 评论 -
【半监督医学图像分割 2023 CVPR】BCP
在半监督的医学图像分割中,存在着有标签和无标签数据分布的经验不匹配问题。如果将有标记的数据和无标记的数据分开处理或以不一致的方式处理,那么从有标记的数据中学到的知识可能在很大程度上被丢弃。我们提出了一个直接的方法来缓解这个问题–在一个简单的Mean Teacher架构中,双向复制粘贴有标签的和无标签的数据。该方法鼓励未标注的数据从标注的数据中向内和向外学习全面的共同语义。更重要的是,标记数据和未标记数据的一致学习程序可以在很大程度上减少经验分布差距。原创 2023-06-08 10:41:10 · 3078 阅读 · 0 评论 -
【半监督医学图像分割 2023】RCPS
摘要医学图像分割方法通常被设计为全监督的,以保证模型的性能,这需要大量的专家注释样本,成本高,费力。半监督图像分割可以利用大量未标记图像和有限的标记图像来缓解这一问题。然而,由于伪标签中潜在的噪声和特征空间中的类可分性不足,从大量未标记图像中学习鲁棒的表示仍然是一个挑战,这削弱了现有半监督分割方法的性能。针对上述问题,我们提出了一种新的半监督分割方法–校正对比伪监督(RCPS),该方法将校正伪监督和体素级对比学习相结合,以提高半监督分割的有效性。特别地,我们设计了一种新的基于不确定度估计和。原创 2023-03-30 18:49:57 · 2255 阅读 · 2 评论 -
【半监督医学图像分割 2023 】UCMT 论文翻译
高质量的伪标签对于半监督语义分割是必不可少的。一致性正则化和基于伪标记的半监督方法利用来自多视图输入的伪标记进行协同训练。然而,这种协同训练模型往往在训练过程中早期收敛到一致,从而导致模型退化到自我训练模型。另外,多视点输入是通过对原始图像的扰动或增强而产生的,这不可避免地会在输入中引入噪声,导致低置信度的伪标签。针对这些问题,我们提出了一种基于不确定性指导的协同均值教师(UCMT)算法,用于具有高置信度伪标签的半监督语义分割。原创 2023-02-15 12:36:38 · 3706 阅读 · 6 评论 -
【半监督医学图像分割 2022 MICCAI】SCS 论文翻译
摘要深度学习方法在医学图像分割任务中的成功与否,很大程度上依赖于大量标注数据的监督训练。另一方面,生物医学图像的注释需要领域知识,可能是费力的。近年来,对比学习在学习图像的潜在表征方面表现出了巨大的潜力。现有的工作已经探索了它在生物医学图像分割中的应用,其中只有一小部分数据被标记,通过基于自我监督对比学习的训练前阶段,不使用任何标签,然后只对标记的部分数据进行监督微调阶段。在本文中,我们建立了通过在训练前阶段包含有限的标签信息,可以提高对比学习的性能。我们提出了一种有监督的局部对比损失。原创 2023-02-14 16:22:03 · 1819 阅读 · 3 评论 -
【半监督医学图像分割 2021 TMI】SimCVD 论文翻译
医学图像分析中的自动分割是一项具有挑战性的任务,它需要大量的人工标记数据。然而,现有的基于学习的医学图像分割方法通常都存在着人工标注的医学数据有限的问题,这给精确和鲁棒的医学图像分割提出了一个重要的现实问题。另外,现有的半监督方法与监督方法相比,鲁棒性较差,且缺乏对几何结构和语义信息的显式建模,限制了分割的准确性。在这项工作中,我们提出了SIMCVD,一个简单的对比蒸馏框架,显着地推进了最先进的体素表示学习。我们首先描述了一种无监督训练策略,它采用输入体积的两个视图,在。原创 2023-02-14 16:08:06 · 1065 阅读 · 0 评论 -
【半监督医学图像分割 2021 CVPR】CVRL 论文翻译
对比学习(CL)的目的是在医学图像分割的背景下,在不依赖专家注释的情况下学习有用的表示。现有的方法主要是通过简单地将所有输入特征映射到相同的常数向量中,将单个正向量(即同一图像的增强)与整个批处理剩余部分中的一组负向量进行对比。尽管这些方法取得了显著的经验效果,但仍存在以下不足:(1)防止问题崩溃为琐碎的解决方案仍然是一个艰巨的挑战;(2)由于同一图像中存在着不同的解剖结构,因此并不是同一图像中的所有体素都具有相同的正性。原创 2023-02-13 21:18:45 · 786 阅读 · 0 评论 -
【半监督医学图像分割 2022 CVPR】S4CVnet 论文翻译
由于医学影像界缺乏高质量标注,半监督学习方法在图像语义分割任务中受到高度重视。为了充分利用视觉转换器(ViT)和卷积神经网络(CNN)在半监督学习中的强大功能,本文提出了一种基于一致性感知伪标签的自集成方法。我们提出的框架包括一个由ViT和CNN相互增强的特征学习模块,以及一个用于一致性感知目的的健壮的指导模块。伪标签由特征学习模块中的CNN视图和ViT视图分别循环地推断和利用,以扩展数据集,彼此有益。同时,对特征学习模块设计了扰动方案,并利用平均网络权值设计了制导模块。原创 2023-01-09 19:44:27 · 2799 阅读 · 0 评论 -
【半监督医学图像分割 ISBI】2022-ICT-MedSeg
像素级注释的缺乏是医学图像分割任务中普遍存在的问题。在本文中,我们介绍了一种新的基于插值混合的正则化策略,用于半监督医学图像分割。所提出的方法是一种新的一致性正则化策略,它鼓励两个未标记数据的插值分割与这些数据的分割映射的插值一致。该方法代表了一种特定类型的数据自适应正则化范式,有助于最大限度地减少在高置信度值下标记数据的过拟合。该方法不需要额外的计算量,优于对抗模型和生成模型。原创 2022-12-27 10:55:48 · 1815 阅读 · 9 评论 -
【半监督图像分割】2021-CPS CVPR
在这篇论文中,我们为半监督语义分割任务设计了一种非常简洁而又性能很好的算法:cross pseudo supervision (CPS)。训练时,我们使用两个相同结构、但是不同初始化的网络,添加约束使得两个网络对同一样本的输出是相似的。具体来说,当前网络产生的one-hot pseudo label,会作为另一路网络预测的目标,这个过程可以用cross entropy loss监督,就像传统的全监督语义分割任务的监督一样。原创 2022-11-21 10:48:13 · 3499 阅读 · 2 评论 -
【半监督图像分类】 2017-Mean-Teacher NIPS
今天我们来学习半监督学习的第2篇文章Mean-TeacherMean-Teacher是对这篇论文Temporal Ensembling for Semi-Supervised Learning做的改进一致性判定正是描述了其中一个属性,那就是一个表现很好的模型应该对输入数据以及他的某些变形表现稳定。比如人看到了。那半监督学习也是一样,我们想要我们的模型表现良好,表现和上限通过大量有标签数据训练的一样(足够鲁棒),那么我们的模型也应该拥有这个属性,即对输入数据的某种变化鲁棒,此类方法代表方法为Teacher-s原创 2022-11-16 22:14:48 · 1220 阅读 · 7 评论