paper
文章平均质量分 82
Deep_Dreamer
山东大学本科生,保研中。
展开
-
paper总结(10)SOFTMATCH: ADDRESSING THE QUANTITY-QUALITYTRADE-OFF IN SEMI-SUPERVISED LEARNING
对于FlexMatch来说,即使训练初期使用了较低的阈值以提高利用率(相比于FixMatch为高数量),但是伪标签中引入了过多的错误标签(约16%所使用的标签是错误的).(我们认为这也是FlexMatch在svhn上不work的主要原因). 相比于之前的方法,SoftMatch在保证高利用率的同时,通过对可能错误的标签分配较低的权重,以同时实现高质量。间的trade-off。动态阈值通过前期降低(不同类别/不同数据)的阈值,来引入更多的伪标签在前期参与训练,但是前期的低阈值会不可避免的引入质量低的伪标签。原创 2023-03-20 06:00:00 · 5656 阅读 · 0 评论 -
paper总结(9)FREEMATCH: SELF-ADAPTIVE THRESHOLDING FORSEMI-SUPERVISED LEARNING
由于不同的类具有不同的类内多样性水平(不同的σ),并且有些类比其他类更难分类(μ2 -μ1较小),因此需要一个细粒度的类特定阈值来鼓励向不同的类公平分配伪标签。将提到的类公平目标纳入FreeMatch,以鼓励模型对每个类做出不同的预测,从而产生有意义的自适应阈值,特别是在标记数据很少的设置下。在本文中,作者首先利用一个激励性的例子来证明,不同的数据集和类应该根据模型的学习状态确定它们的全局(特定于数据集)和局部(特定于类)阈值。局部阈值旨在以特定于类的方式调整全局阈值,以考虑类内的多样性和可能的类邻接性。原创 2023-03-18 22:31:33 · 8724 阅读 · 2 评论 -
paper总结(8)FlexMatch: Boosting Semi-Supervised Learning with Curriculum Pseudo Labeling
FixMatch和其他流行的SSL算法(如伪标记和无监督数据增强(UDA))的缺点是,它们依赖固定的阈值来计算无监督损失,只使用预测置信度高于阈值的无标记数据。虽然该策略可以确保只有高质量的无标记数据有助于模型训练,但它忽略了相当多的其他无标记数据,特别是在训练过程的早期阶段,只有少数无标记数据的预测置信度高于阈值。然而,与其他现代SSL算法一样,FixMatch使用预定义的所有类的常数阈值来选择有助于训练的未标记数据,没有考虑到不同类的不同学习状态和学习困难。原创 2023-03-16 04:00:00 · 6219 阅读 · 0 评论 -
paper总结(1)A Simple Framework for Contrastive Learning of Visual Representations
paper总结原创 2022-09-21 17:36:20 · 11483 阅读 · 0 评论 -
paper总结(7)Twin Contrastive Learning for Online Clustering
paper原创 2022-10-09 23:48:08 · 7103 阅读 · 0 评论 -
paper总结(6)Cross-Model Pseudo-Labeling for Semi-Supervised Action Recognition
paper原创 2022-09-26 21:06:06 · 6789 阅读 · 0 评论 -
paper总结(5)FixMatch: Simplifying Semi-Supervised Learningwith Consistency and Confidence
paper原创 2022-09-24 23:55:29 · 6849 阅读 · 0 评论 -
paper总结(4)TSM: Temporal Shift Module for Efficient Video Understanding
paper原创 2022-09-24 11:15:07 · 6755 阅读 · 0 评论 -
paper总结(3)Contrastive Clustering
paper原创 2022-09-23 11:02:21 · 10511 阅读 · 0 评论 -
paper总结(2)Momentum Contrast for Unsupervised Visual Representation Learning
paper原创 2022-09-22 20:59:21 · 6646 阅读 · 0 评论