TPAMI 2024 | 一种针对实例依赖噪声标签的时间一致性学习课程

最新推荐文章于 2024-09-08 09:30:00 发布
最新推荐文章于 2024-09-08 09:30:00 发布
阅读量81 收藏
点赞数
分类专栏： 论文解读 IEEE TPAMI 文章标签： TPAMI 深度学习 顶刊论文 论文解读
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/qq_42722197/article/details/140569392
版权
论文解读 IEEE TPAMI 专栏收录该内容
258 篇文章 16 订阅 ¥49.90 ¥99.00
订阅专栏

A Time-Consistency Curriculum for Learning From Instance-Dependent Noisy Labels

题目：一种针对实例依赖噪声标签的时间一致性学习课程

作者：Songhua Wu , Tianyi Zhou , Yuxuan Du , Jun Yu , Bo Han , and Tongliang Liu

摘要

许多机器学习算法被证明对于简单的实例独立噪声标签是脆弱的。然而，现实世界数据中的噪声标签由于更复杂的机制以实例依赖的方式产生，因此更具破坏性。在本文中，我们针对实例依赖噪声标签这一实际挑战，通过联合训练：(1) 一个反向工程模型，该模型产生清洁标签后验与观察到的噪声标签之间的实例依赖映射；(2) 一个鲁棒分类器，它产生清洁标签后验。与先前的方法相比，前者模型是新颖的，并且能够直接从噪声标签中端到端地学习后者。广泛的实证研究表明，数据的时间一致性对训练这两个模型的成功至关重要，这激发了我们根据它们在训练过程中两个模型输出的动态选择训练数据的课程开发。我们展示了课程选择的数据提供了清洁标签和高质量的输入-输出对，用于训练这两个模型。因此

了解本专栏 订阅专栏 解锁全文
小白学视觉
关注
专栏目录
订阅专栏
TPAMI 2024| BadLabel：评估与增强标签噪声学习的一种鲁棒视角
小白学视觉
07-15 689
标签噪声学习（Label-noise learning, LNL）旨在提高模型在训练数据带有噪声标签的情况下的泛化能力。为了促进实用的LNL算法的发展，研究人员提出了不同类型的标签噪声，从类条件噪声到实例依赖噪声不等。在本文中，我们引入了一种新型的标签噪声类型，称为BadLabel，它可以通过大幅度降低现有LNL算法的性能来显著影响它们。BadLabel是基于标准分类的标签翻转攻击精心设计的，其中选择特定样本并将它们的标签翻转为其他标签，以便干净标签和噪声标签的损失值无法区分。
TPAMI 2024 | BadLabel：评估与增强标签噪声学习的一种鲁棒视角
小白学视觉
07-04 169
点击上方“小白学视觉”，选择加"星标"或“置顶”重磅干货，第一时间送达BadLabel: A Robust Perspective on Evaluating and Enhancing Label-Noise Learning题目：BadLabel：评估与增强标签噪声学习的一种鲁棒视角作者： J. Zhang; B. Song; H. Wang; B. Han; T. Liu; L. Liu; ...
标签噪声：综述 Learning from Noisy Labels with Deep Neural Networks: A Survey
doctor_strange****
09-19 1万+
Learning from Noisy Labels with DNN: Robust architecture, robust regularization, robust loss function, loss adjustment, sample selection
噪音标签工作总结
Winterfell01的博客
09-09 1047
本文介绍了噪声标签相关的基本概念和解决噪声标签问题的各种各样的方法及分类。
人工智能中噪声数据的产生与处理方法详解
showswoller的博客
04-28 4923
人工智能中噪声数据的产生与处理方法详解
【学习笔记】标签噪声下利用深度学习进行图像分类任务——概述
Ace2NoU的博客
12-20 7142
论文地址 [1912.05170v1] Image Classification with Deep Learning in the Presence of Noisy Labels: A Survey (arxiv.org)https://arxiv.org/abs/1912.05170v1 Abstract 用于进行图像分类的神经网络需要大量的标记数据来进行适当的训练。但是，由于分类的困难和标记过程的高代价，使得标签噪声是数据集中普遍存在的问题。 众所周知，深度网络对标签噪声具有一定的鲁棒性..
深度学习中噪声标签的影响和识别
热门推荐
王尧的技术博客
08-22 1万+
问题导入在机器学习领域中，常见的一类工作是使用带标签数据训练神经网络实现分类、回归或其他目的，这种训练模型学习规律的方法一般称之为监督学习。在监督学习中，训练数据所对应的标签质量对于学习效果至关重要。如果学习时使用的标签数据都是错误的，那么不可能训练出有效的预测模型。同时，深度学习使用的神经网络往往结构复杂，为了得到良好的学习效果，对于带标签的训练数据的数量也有较高要求，即常被提到的大数据或海量数据
TPAMI 2024 | Box2Mask: 基于包围盒的实例分割算法
小白学视觉
08-19 429
与使用像素级掩码标签的全监督方法不同，基于包围盒注释的实例分割利用简单的框注释，最近吸引了越来越多的研究关注。本文提出了一种新颖的单次实例分割方法，即Box2Mask，它将经典水平集演化模型整合到深度神经网络学习中，仅使用包围盒监督就能实现精确的掩码预测。具体来说，输入图像及其深度特征被用来隐式地演化水平集曲线，并且使用基于像素亲和核的局部一致性模块来挖掘局部上下文和空间关系。
TPAMI 2024 | Knockoff SPR：带噪声标签学习中的干净样本选择
小白学视觉
06-08 112
作者：Yikai Wang; Yanwei Fu; Xinwei Sun源码链接： https://github.com/YikaiWang/Knockoffs-SPR噪声训练集通常会导致神经网络的泛化和鲁棒性下降。在本文中，我们提出了一个新的理论保证的清洁样本选择框架，用于噪声标签的学习。具体来说，我们首先提出了一种可扩展的惩罚回归（SPR）方法，用于模拟网络特征和独热标签之间的线性关系。在SPR中，通过回归模型中解决的零均值偏移参数来识别清洁数据。我们理论上展示了在某些条件下SPR可以恢复清洁数据。在一
《深度学习噪声标签学习》综述论文
07-22
在海量大数据的帮助下，深度学习在许多领域都取得了显著的成功。但是，数据标签的质量是一个问题，因为在许多现实场景中缺乏高质量的标签。
《标签噪声表示学习的研究:过去、现在和将来》
11-12
经典的机器学习隐含地假设训练数据的标签是从一个干净的分布中采样的，这对于真实的场景来说限制太大了。然而，基于统计学习的方法可能不能很好地训练深度学习模型。因此，迫切需要设计标签噪声表示学习(LNRL)方法对带噪声标签的深度模型进行鲁棒训练。为了充分了解LNRL，我们进行了综述。
Noise-label-generation-and-relabeling:在给定噪声率的情况下为数据集生成噪声标签，并使用重新标记算法对这些噪声标签进行重新标记
04-14
噪声标签生成和重新标记 在给定噪声率的情况下为数据集生成噪声标签，并使用重新标记算法对这些噪声标签进行重新标记 f1.test.py为all_tickets.csv数据集生成嘈杂的标签，使用“ body”作为特征，使用“ urgency”和“ ticket_type”作为预测标签。 我们假设'紧急'标签可能有一些嘈杂的标签，所以我们在'紧急'上添加了噪音。我们将48000数据拆分为火车数据集，将左侧的数据拆分为测试数据。在为'紧急'生成嘈杂标签's'之后，我们将' body。，'ticket_type'和's'到train_data.csv。在category.py中，我们生成重新标记的标签'relabel'并将其写入relabel.csv文件。除了门票数据集之外，我们还测试了其他数据集。 资料集 文件 结果文件夹 all_tickets.csv test.py 票 情绪训练 tes
label-noise-papers:与标签噪声表示学习相关的论文的最新列表在这里
05-19
标签噪音纸 该存储库包含在我们的调查“标签噪声表示学习的概览：过去，现在和未来”中提到的标签噪声表示学习（LNRL）论文。 我们将更新此论文列表，以定期包括新的LNRL论文。 引文 如果发现有帮助，请引用我们的论文。 @article{han2020survey, title={A survey of label-noise representation learning: Past, present and future}, author={Han, Bo and Yao, Quanming and Liu, Tongliang and Niu, Gang and Tsang, Ivor W and Kwok, James T and Sugiyama, Masashi}, year={2021} } 内容 记忆效果 自我训练 共同训练 超越记忆 其他 未来发展方向 新
TPAMI 2024 | 对象亲和性学习：迈向无需标注的实例分割
最新发布
小白学视觉
09-08 87
我们解决的是野外环境中无需标注的实例分割问题，旨在减轻手动掩膜标注的昂贵成本。现有方法利用颜色、边缘和纹理等视觉线索来生成实例分割的伪掩膜。然而，由于仅通过视觉外观定义对象存在歧义，这些方法在复杂场景中无法区分对象与背景。除了视觉线索外，对象在空间上是一体的，并且随着时间的推移一起移动，这表明几何线索，如空间连续性和运动一致性，也可用于解决此问题。为了直接利用几何线索，我们提出了一种基于亲和性的范式，称为对象亲和学习。
噪声标签学习（一）
麦田里的守望者
12-09 9103
噪声标签学习（一） 在有监督学习过程中，大量的准确标注的样本训练样本至关重要。但在实际应用过程中，标记数据往往需要大量的人力，物力财力。标注的数据质量某种程度上还受到人为主观因素的影响，导致实际获取的标注样本时常含有不定比例的标签噪声。然而，实验发现DNN在网络训练过程中，总是会学到标签噪声中的信息，对网络的性能带来干扰。为此，如何能够对标签噪声样本进行合理训练避免标签噪声对网络模型的训练带来干扰是近几年的又一个热门研究话题。 接下来将对了解到的几篇近期了解的相关方法进行一个概述： NIPS2018 ：Co
对标签噪声鲁棒的广义交叉熵损失 (Generalized Cross Entropy)
suredied的博客
02-01 5807
在人工智能算法的实际应用场景中，不可避免地会出现训练数据误标现象，即训练数据集上存在标签噪声。这会降低所训模型的泛化能力。尤其是对于深度神经网络这种描述能力极强的模型，标签噪声对推理精度的影响甚或是灾难性的。论文证实了一个简单的两层网络就能记住所有随机分配的标签。 本篇博文将介绍一种对标签噪声鲁棒的损失函数，即General Cross Entropy (GCE)。这种损失函数在2018年的NIPS会议论文中被提出，其集成了Mean Absolute Error (MAE)损失函数的噪声鲁棒性，以及传统的C
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

小白学视觉

您的赞赏是我们坚持下去的动力~

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值