CVPR2023高质量论文 | Consistent-Teacher：半监督目标检测超强SOTA

最新推荐文章于 2024-05-18 13:01:50 发布
最新推荐文章于 2024-05-18 13:01:50 发布
阅读量942 收藏 9
点赞数 1
文章标签： 目标检测 深度学习 计算机视觉 人工智能 机器学习
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/gzq0723/article/details/130959728
版权

关注并星标

从此不迷路

计算机视觉研究院

97834409f12a8ceb6ad8f064489d8b86.gif

448c4ee5e8cc8fb18f4e67f197baf419.gif

公众号ID｜ComputerVisionGzq

学习群｜扫码在主页获取加入方式

91b33467011b5673498f34162373b861.png

论文地址：https://arxiv.org/abs/2209.01589

计算机视觉研究院专栏

作者：Edison_G

《Consistent-Teacher: Towards Reducing Inconsistent Pseudo-targets in Semi-supervised Object Detection》是一篇关于半监督目标检测的论文。该论文提出了一种新的方法，称为“Consistent-Teacher”，用于减少伪目标（pseudo-targets），这些伪目标是由于标签的不一致性而引入到训练中的错误对象。

一、总概述

在本研究中，研究者深入研究了半监督目标检测（SSOD）中伪目标的不一致性。核心观察结果是，振荡的伪目标破坏了精确的半监督检测器的训练。它不仅给学生的训练注入了噪声，而且导致了分类任务的严重过拟合。因此，研究者提出了一个系统的解决方案，称为一致教师，以减少不一致。首先，自适应锚分配（ASA）取代了基于静态IoU的策略，使学生网络能够抵抗噪声伪边界盒；然后，通过设计三维特征对齐模块（FAM-3D）来校准子任务预测。它允许每个分类特征在任意尺度和位置自适应地查询回归任务的最优特征向量。最后，高斯混合模型（GMM）动态地修正了伪框的得分阈值，从而稳定了基本事实的数量

94a607b9947473c03cdc31d82d9783c3.png

二、动机

在这项研究中，研究者指出，半监督检测器的性能仍然在很大程度上受到伪目标不一致性的阻碍。不一致意味着伪框可能非常不准确，并且在训练的不同阶段变化很大。因此，不一致的振荡边界盒（bbox）会使SSOD预测产生累积误差。与半监督分类不同，SSOD有一个额外的步骤，即为每个RoI/锚点分配一组伪框作为密集监督。常见的两级和单级SSOD网络采用静态的锚分配标准，例如IoU分数或中心度。据观察，静态作业对教师预测的边界框中的噪声很敏感，因为假边界框中一个小的扰动可能会极大地影响作业结果。因此，它导致未标记图像上的严重过拟合。

为了验证这一现象，在MS-COCO 10%数据的基础上，用基于IoU的标准分配来训练单级探测器。如下图所示，教师输出的微小变化导致伪框边界中的强噪声，导致在基于IoU的静态分配下，错误目标与附近对象相关联。这是因为一些未激活的主播在学生网络中被错误地分配为阳性。因此，网络会过拟合，因为它会为相邻对象生成不一致的标签。在未标记图像的分类损失曲线中也观察到过拟合。

不一致是指伪框可能高度不准确，并且在不同的训练阶段差异很大。

61428313cb10a9d5a9cde564d8a5cc28.jpeg

Motivation: Inconsisteny For SSOD

（左）比较“Mean-Teacher ”和“Consistent-Teacher”的训练损失。在Mean-Teacher中，不一致的伪目标导致分类分支上的过拟合，而回归损失变得难以收敛。相反，新提出的方法为学生设定了一致的优化目标，有效地平衡了这两项任务并防止了过度拟合。

（右）伪标签和分配动态的快照。绿色和红色的框指的是北极熊的真值和伪值。红点是为伪标签指定的定位框。热图表示教师预测的密集置信度分数（越亮越大）。附近的木板最终在基线中被错误地归类为北极熊，而提出的自适应分配防止了过度拟合。

三、实验及结果

研究者的工作解决了SSOD的不一致问题。以下是训练过程中不同时间步长的一些样本检测结果：

Red: False Positive; Blue: True Postive; Green: Ground-truth

5241ab724f17754b5a3479dc29d8187a.gif

Mean-Teacher

4437eea936dc519f4076454f3b77ac10.gif

Consistent-Teacher

aee30b9072b240c6e08c9dafd5313f8d.gif

Mean-Teacher

924ffe6d8df02ef1cfb4c6c767abef01.gif

Consistent-Teacher

593e59a003383b3f89bb97d3a3f7284a.png

© THE END 

转载请联系本公众号获得授权

038df8f3143881d5875ce81dc5802aa6.gif

计算机视觉研究院学习群等你加入！

ABOUT

计算机视觉研究院

计算机视觉研究院主要涉及深度学习领域，主要致力于人脸检测、人脸识别，多目标检测、目标跟踪、图像分割等研究方向。研究院接下来会不断分享最新的论文算法新框架，我们这次改革不同点就是，我们要着重”研究“。之后我们会针对相应领域分享实践过程，让大家真正体会摆脱理论的真实场景，培养爱动手编程爱动脑思考的习惯！

VX：2311123606

81dbe8606df49103ef17682c1d5b88dc.png

往期推荐

计算机视觉研究院
关注
  • 1
    点赞
  • 踩
  • 9
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 0
    评论
matlab光场代码-JLDCF:CVPR-2020论文“JL-DCF:JointLearningandDensely-Cooperative
06-01
matlab光场代码JL-DCF (CVPR 2020, TPAMI 2021) JL-DCF：RGB-D 显着目标检测的联合学习和密集协作融合框架 (CVPR2020) [][] 用于 RGB-D 显着对象检测及其他的连体网络 (TPAMI2021) [] - 测试代码已发布！ —— :fire: 消息！！！ :fire: JL-DCF 的 Pytorch 实现（培训和测试）现已发布！ 请移步到新的以获取更多信息。 用法 JL-DCF 的原始实现是 Caffe。 代码可以在 Windows 和 Linux 上运行，具体取决于您使用的操作系统。 它已经在 Linux（使用 Ubuntu 16.04、CUDA-10、Cudnn-7.6、Matlab 2015b）和 Windows 10（使用 CUDA-9、Cudnn-7.6、Matlab 2018a、Visual Studio 2015）上进行了测试。 它也应该适用于其他配置（在 CUDA-8.0+、Cudnn-5.0+ 和 Matlab 2013a+ 上效果更好），但我们没有尝试。 步骤 1：要运行代码，您应该首先安装 Caffe 及其 MATLAB 接
CVPR2023 目标检测论文合集
AI_Conf的博客
05-23 2902
它首先开发了一个上下文增强集体规范化(CEGN)层,通过将基于稀疏样本特征的统计数据替换为全局上下文特征的统计数据,然后设计了一种适配多层掩盖策略,以产生不同的高度,在不同大小的前景覆盖范围内产生最优遮瑕率。结果是一个基于素描的图像检测框架。作者：Lingchen Meng,Xiyang Dai,Yinpeng Chen,Pengchuan Zhang,Dongdong Chen,Mengchen Liu,Jianfeng Wang,Zuxuan Wu,Lu Yuan,Yu-Gang Jiang。
【计算机视觉 | 目标检测】术语理解4：OVD 训练的范式、半监督目标检测（SSOD）、弱监督目标检测（WSOD）、 余弦相似度
wzk4869的博客
05-23 1341
【计算机视觉 | 目标检测】术语理解4：OVD 训练的范式、半监督目标检测（SSOD）、弱监督目标检测（WSOD）、 余弦相似度
CVPR'24开源 | nuScenes第一！多模态3D目标检测最新SOTA！
3D视觉工坊
03-28 137
点击下方卡片，关注「3D视觉工坊」公众号选择星标，干货第一时间送达来源：3D视觉工坊添加小助理：dddvision，备注：方向+学校/公司+昵称，拉你入群。文末附行业细分群扫描下方二维码，加入3D视觉知识星球，星球内凝聚了众多3D视觉实战问题，以及各个模块的学习资料：近20门视频课程（星球成员免费学习）、最新顶会论文、计算机视觉书籍、优质3D视觉算法源码等。想要入门3D视觉、做项目、搞科研，欢迎扫...
LED2-Net:CVPR 2021口头论文“ LED2-Net
04-01
LED 2-净 这是我们CVPR 2021口头论文“ LED 2 -Net：通过可微分深度渲染进行单眼360˚布局估计”的PyTorch实施。 您可以访问我们的项目网站并上传自己的全景图以查看3D结果！ 先决条件 此主要基于 。 您可以使用follwoing命令安装依赖关系。 pip install -r requirements.txt 准备训练数据 在，我们提供了和。 这两个数据集的注释格式遵循 。 格式的详细说明在进行了说明。 在， 和是Matterport3D和Realtor360的配置文件。 Matterport3D 要在Matterport3D上进行训练/，请修改中的。 dataset_image_path : &dataset_image_path '/path/to/image/location' dataset_label_path : &dataset_lab
Awesome-CVPR2021-CVPR2020-Low-Level-Vision:CVPR2021CVPR2020低层视觉的论文和代码合集
04-11
Awesome-CVPR2021/CVPR2020-Low-Level-Vision A Collection of Papers and Codes for CVPR2021/CVPR2020 Low Level Vision or Image Reconstruction 整理汇总了下2021年CVPR和2020年CVPR底层视觉(Low-Level Vision)相关的一些论文和代码，包括超分辨率，图像恢复，去雨，去雾，去模糊，去噪等方向。大家如果觉得有帮助，欢迎star~~ Awesome-CVPR2021-Low-Level-Vision Awesome-CVPR2020-Low-Level-Vision 相关Low-Level-Vision整理
CVPR2023 超高分论文 | Consistent-Teacher: 高效目标检测超强 SOTA!
专注计算机视觉全栈知识分享
04-22 2111
半监督学习SSL是一种利用少量有标签数据和大量无标签数据进行训练以提高模型性能的机器学习方法。在图像分类、目标检测等领域，SSL 已经被广泛应用。在目标检测领域，半监督目标检测SSOD能够有效利用大量无标注数据进行训练，具有重要的应用价值。SSOD 的基本模式是模式 [4][5][6][7]。该方法首先利用少量已标注数据对初始模型进行训练，同时使用教师模型对大量未标注数据进行推断，并将推断结果作为伪标签加入训练集。期望学生模型能够准确检测这些伪标签，并对增强后的输入样本做出一致的预测。
CVPR2023 | 70+目标检测论文及代码整理
04-28 1万+
CVPR2023目标检测相关70+论文及代码整理
Paper Reading:《Consistent-Teacher: 减少半监督目标检测中不一致的伪目标》
Transfattyacids的博客
10-20 1054
商汤、上海AI实验室、新加坡国立大学、北京大学作者研究方向主要是模型架构研究、半监督学习、目标检测共同一作个人主页：https://adamdad.github.io/其他作者摘要在本研究中，我们深入研究了半监督目标检测（SSOD）中伪目标的不一致性。我们的核心观察结果是，振荡的伪目标破坏了精确探测器的训练。它给学生的训练注入了噪音，导致了严重的过拟合问题。因此，我们提出了一个系统的解决方案，称为Consistent Teacher，以减少不一致性。首先，自适应锚分配（ASA）
Consistent-Teacher: Towards Reducing Inconsistent Pseudo-targets inSemi-supervised Object Detection
qq_39039754的博客
07-23 337
为了动态的调整伪标签框筛选的阈值，Consistent-Teacher将伪标签框筛选的过程看作是一个二分类过程，即正样本类为筛选得到的高质量伪标签框，负样本类为要筛除的低质量标签框。然而，这种方法会导致在训练不同阶段的不一致性。如下图1为 Mean-Teacher，使用基于 IOU 阈值的静态 anchor 分配方法，可以看到随着训练进行，由于 Teacher 生成伪标签的不稳定性，在利用伪标签对 Student 进行伪监督训练时，Student 会不时的将 anchor assign 到旁边的木板上。
cvpr2023-目标检测-Combating noisy labels in object detection datasets
一千零一夜的博客
03-07 2155
我们都知道数据对于深度学习模型的重要性，但是如何省时省力的得到高质量的数据呢？这就是此文章探讨的问题。
CVPR2021-Papers-with-Code:CVPR 2021论文和开源项目合集
03-20
CVPR 2021论文和开源项目合集 论文和开源项目合集（带代码的论文）！ CVPR 2021收录列表： : 注1：欢迎各位大佬提交问题，分享CVPR 2021论文和开源项目！ 注2：关于往年CV顶会论文以及其他优质CV论文和大盘点，详见： : CVPR 2021中奖群已成立！已经收录的同学，可以添加微信： CVer9999 ，请备注： CVPR2021已收录+姓名+学校/公司名称！ 【CVPR 2021论文开源目录】 骨干 ReXNet：减少卷积神经网络上的代表性瓶颈 论文： : 代码： ： 内卷：反转卷积的固有性以进行视觉识别 论文： : 代码： ： 高效移动网络设计的协调注意 论文： : 代码： ： 具有有效膨胀搜索的初始卷积 论文： : 代码： ： RepVGG：使VGG样式的ConvNets再次出色 论文： : 代码： ： 纳斯 通过生成进行搜索
CVPR-2020-point-cloud-analysis:专注于点云分析的CVPR 2020论文
05-28
CVPR-2020点云分析 专注于点云分析的CVPR 2020论文 [] [] [] [] segmention [] segmention classification [] compression oral completion [代码] 基于图像的3D对象检测的端到端伪LiDAR [代码] 点网络segmentation 更深入 [代码] 学习多视图3D点云注册 几何和学习共同支持的非结构化点云正态估计。 normal estimation LG-GAN：标签导向对抗网络，可针对基于点云的深度网络进行灵活的有针对性的攻击。 attack [代码] 对抗攻击下深3D点云模型的等轴测度鲁棒性。 attack [代码] 云中的卷积：学习3D图卷积网络中的可变形内核以进行点云分析。 classification segmentation [代码] 用
CVPR2023 自监督论文合集
AI_Conf的博客
05-24 378
特别是,我们首先提出了一种新的跨视图一致性(CVC)策略,该策略鼓励两个子网从相同输入中学习不同的特征,而这些不同特征都预计会生成与输入一致的预测得分。我们认为,这种简单的管道已经在与最近最先进的工作相比取得了竞争性的结果,当将其转换为分区情景时,它已经实现了与当前最先进的工作相媲美的性能。我们采用一种简化的强度扩展,通过选择任意数量的数据转换,从连续空间中随机注入标记信息,并基于模型对不同未标记样本来的表现进行估计。我们的广泛的实验表明,该方法达到了最先进的性能水平。(二)噪声伪标签的使用对培训的影响。
CVPR 2023 | 单阶段半监督目标检测SOTA：ARSL
PaddlePaddle
04-06 1284
本文提出了针对单阶段半监督目标检测任务的Ambiguity-Resistant Semi-supervised Learning（ARSL）算法，创新地提出了两个通用的单阶段半监督检测模块：Joint-Confidence Estimation（JCE）和Task-Separation Assignment（TSA）。
半监督目标检测（五）
wutongxdf的博客
12-01 1075
Semi-supervised Object Detection via Virtual Category Learning
Consistent-Teacher：半监督目标检测超强SOTA
gzq0723的博客
07-11 197
关注并星标从此不迷路计算机视觉研究院公众号ID｜ComputerVisionGzq学习群｜扫码在主页获取加入方式论文地址：https://arxiv.org/abs/2209.01589计算机视觉研究院专栏作者：Edison_G《Consistent-Teacher: Towards Reducing Inconsistent Pseudo-targets in Semi-supervised O...
CVPR2022 目标检测方向文章（附摘要）
热门推荐
weixin_43570470的博客
03-25 3万+
CVPR2022目标检测论文整理（持续更新）
深度学习之基于YoloV5+LPRNet车牌识别系统
最新发布
2301_79809972的博客
05-18 1014
一、项目背景与意义在智能交通管理系统中，车牌识别技术是一项至关重要的技术。随着车辆数量的不断增长和交通环境的日益复杂，对车牌进行准确、快速的识别已成为现代交通管理不可或缺的一部分。为了满足这一需求，本项目采用了先进的YOLOv5和LPRNet算法，结合深度学习技术，开发了一套高效的车牌识别系统。二、技术原理该系统基于深度学习和目标检测技术，整合了YOLOv5目标检测框架和LPRNet文本识别模型。YOLOv5算法在目标检测领域具有出色的性能，能够快速、准确地检测图像中的目标；
半监督目标检测的综述
09-21
### 回答1： 半监督目标检测是一种目标检测方法，它在少量的有标注数据和大量的无标注数据的情况下进行训练。它通过利用有标注数据的信息来帮助模型学习如何识别目标，并利用无标注数据来进一步提高模型的泛化能力。 目前，半监督目标检测的研究主要集中在以下几个方面：生成式方法，分类方法，联合分析方法以及深度学习方法。其中，生成式方法利用生成模型来生成目标的虚假标注，以此来增加训练数据的数量；分类方法则通过分类器来识别目标；联合分析方法则将生成模型和分类模型结合起来；深度学习方法则利用深度神经网络来进行目标检测。 总的来说，半监督目标检测是一个广泛研究的方向，它既能利用有限的有标注数据来提高模型的准确性，又能利用大量的无标注数据来增加模型的泛化能力。因此，它在实际应用中具有广泛的意义。 ### 回答2： 半监督目标检测是一种结合有标注和无标注数据的目标检测方法。在传统的目标检测中，通常需要大量标注数据来训练模型，但在许多场景中，获得大量标注数据是非常昂贵和耗时的。 半监督目标检测通过利用有标注数据和无标注数据的优势来提高检测性能。首先，使用有标注数据来训练一个初步的目标检测模型。然后，利用这个模型，对无标注数据进行预测，得到伪标签。接下来，可以将带有伪标签的无标注数据与有标注数据一起重新训练模型，以进一步提高性能。这个过程可以迭代多次，逐步提升模型的准确性。 半监督目标检测的关键挑战之一是如何确定和使用伪标签。一种常见的方法是使用置信度阈值来筛选伪标签，只保留高置信度的预测结果。此外，还可以使用一些迭代策略来进一步去除错误的伪标签。另外，还需要注意的是，伪标签的引入可能会引入噪音，因此需要设计合理的方法来处理噪音数据。 半监督目标检测的研究还面临其他一些挑战，如选择有标注数据和无标注数据的比例、如何利用无标注数据的信息以及应用于不同场景下的性能评估等。当前的研究主要关注于如何更好地利用无标注数据来增强目标检测性能，以及在真实场景中应用的可行性和效果。 总的来说，半监督目标检测是一种通过结合有标注和无标注数据来提高目标检测性能的方法。虽然仍面临一些挑战，但半监督目标检测在实际应用中具有较大的潜力，并且已经取得了一些令人鼓舞的研究成果。 ### 回答3： 半监督目标检测是一种利用少量标注样本和大量未标注样本进行目标检测的方法。在传统的目标检测任务中，需要大量标注样本来训练模型，这一过程非常耗时耗力。而半监督目标检测则可以通过利用未标注样本的信息来提高模型的性能，减少标注样本的需求。 半监督目标检测的研究主要集中在两个方面：基于生成模型和基于自训练的方法。 基于生成模型的方法通过训练一个生成模型，来学习数据的分布信息。其中，一种常用的方法是生成对抗网络（GAN），通过生成模型生成的样本与真实样本进行对抗，来提高模型的鲁棒性和泛化能力。另外，还有一些基于图模型的方法，通过构建样本之间的关系图，并利用图模型进行半监督学习。 基于自训练的方法则是利用未标注样本自动生成标注样本来训练模型。这些方法通常包括两个步骤：首先使用标注样本训练一个初始模型，然后利用这个模型对未标注样本进行伪标注。之后，在结合标注样本和伪标注样本进行模型的进一步训练。这种方法的优势在于可以利用大量未标注样本，但也存在伪标注引入的误差问题。 除了以上两类方法，还有一些其他的半监督目标检测方法，如利用生成模型和图模型相结合的方法，以及基于无监督目标检测预训练的方法等。 总的来说，半监督目标检测是在目标检测任务中利用未标注样本的一种方法，通过利用未标注样本的信息，可以减少标注样本的需求，提高模型的性能。目前，半监督目标检测仍然是一个活跃的研究领域，未来还有很大的研究空间和发展潜力。

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

计算机视觉研究院

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值