【系列论文研读】Self-supervised learning：rotating，M&M tuning，Jigsaw++

最新推荐文章于 2024-09-29 11:04:53 发布
最新推荐文章于 2024-09-29 11:04:53 发布
阅读量2.3k 收藏 2
点赞数
分类专栏： 论文研读 文章标签： 自监督 深度学习
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/always_ease/article/details/94723448
版权
本文介绍了自监督学习在3D上下文特征学习、视觉表示学习以及视频几何变换中的应用。研究显示增加未标记数据的规模和使用更大的预训练模型可以提升自监督学习的效果。同时，Mix-and-Match调优方法被用于自我监督语义分割任务，通过颜色化预训练、M&M调优和目标分割任务实现性能提升。此外，Jigsaw++任务通过替换网格中的图像块以增强学习难度。最后，DeepCluster方法利用聚类产生伪标签进行预训练。
摘要由CSDN通过智能技术生成

How to learn from unlabeled volume data: Self-Supervised 3D Context Feature Learning

Author：Maximilian Blendowski（University of L¨ubeck, Germany）

提出的2.5D的自监督方法，预测不同slice之间某两点的相对位移。使用两个预测网络：直接数值预测和热力图方法。主要用于胸片数据。

 

Scaling and Benchmarking Self-Supervised Visual Representation Learning

Author：Priya Goyal 等（Facebook）

提出了几个self-supervised 的trick：

  1. increasing the size of pre-training data improves the transfer learning performance for both the Jigsaw and Colorization methods

  2. Pre-trai

最低0.47元/天 解锁文章
Always_ease
关注
专栏目录
【图深度自监督学习Philips S. Yu团队重磅新作】Graph Self-Supervised Learning: A Survey
Lunaticbg的博客
03-13 1425
Graph Self-Supervised Learning: A Survey 作者：Philip S. Yu等 主要工作： 对图自监督学习进行归类 总结了已有的图自监督学习的工作 提出了对后续的图自监督学习工作方向的展望 相较于已有的图自监督学习综述，他们的工作对这块分得更科学更细致 Introduction 部分 ​ 自监督学习是一个正在快速发展的用于解决（半）监督学习的缺点的学习范式。通过训练模型解决精心设计的中间任务，自监督学习可以帮助模型从未标记的数据中学习到更泛化的表示，以此在下游任务上
Scaled-down-self-supervised-learning:自我约束学习的正式pytorch实施
03-25
缩减自我监督学习 正式的pytorch实施的“自我监督学习：小就是美”。 抽象的 近年来，自我监督学习（SSL），尤其是对比学习已经取得了长足的进步。 但是，这些方法的一个共同主题是它们继承了受监督的深度学习场景的...
Mix-and-Match Tuning for Self-Supervised Semantic Segmentation
02-08
作者：Xiaohang Zhan,Ziwei Liu,Ping Luo,Xiaoou Tang,Chen Change Loy 摘要：Deep convolutional networks for semantic image segmentation typically require large-scale labeled data, e.g. ImageNet and MS COCO, for network pre-training. To reduce annotation efforts, self-supervised semantic segmentation is recently proposed to pre-train a network without any human-provided labels. The key of this new form of learning is to design a proxy task (e.g. image colorization), from which a discriminative loss can be formulated on unlabeled data. Many proxy tasks, however, lack the critical supervision signals that could induce discriminative representation for the target image segmentation task. Thus self-supervision's performance is still far from that of supervised pre-training. In this study, we overcome this limitation by incorporating a "mix-and-match" (M&M) tuning stage in the self-supervision pipeline. The proposed approach is readily pluggable to many self-supervision methods and does not use more annotated samples than the original process. Yet, it is capable of boosting the performance of target image segmentation task to surpass fully-supervised pre-trained counterpart. The improvement is made possible by better harnessing the limited pixel-wise annotations in the target dataset. Specifically, we first introduce the "mix" stage, which sparsely samples and mixes patches from the target set to reflect rich and diverse local patch statistics of target images. A "match" stage then forms a class-wise connected graph, which can be used to derive a strong triplet-based discriminative loss for fine-tuning the network. Our paradigm follows the standard practice in existing self-supervised studies and no extra data or label is required. With the proposed M&M approach, for the first time, a self-supervision method can achieve comparable or even better performance compared to its ImageNet pre-trained counterpart on both PASCAL VOC2012 dataset and CityScapes dataset.
2023/8/20周报 自监督学习
user_s1的博客
08-20 345
本周通过对自监督学习的一些案例进行学习从而了解了自监督学习的一些基础概念。自监督学习是无监督学习里面的一种，也被称作pretext task。自监督学习主要是利用辅助任务从大规模的无监督数据中挖掘自身的监督信息，通过这种构造的监督信息对网络进行训练，从而可以学习到对下游任务有价值的表征。找到合适的辅助任务（pretext）对于自监督学习是最需要解决的问题。与数据特点相比，辅助任务难一些有助于性能提升。数据和资源越多，自监督预训练的效果会更好（Bert）。
[无需负样本的对比学习]Bootstrap Your Own LatentA New Approach to Self-Supervised Learning
最新发布
wwwwwsssllll的博客
09-29 696
在无监督学习中，给定一个未标注的数据集 $D = {x_1, x_2, ..., x_n}$，其每个样本 $x_i$ 为图像或其他类型的数据。目标是设计一个自监督学习模型，使其能够从这些数据中学习到高质量的特征表示，并在后续的下游任务（如分类、聚类或迁移学习）中表现良好，不依赖于负样本对或明确的监督信号。
自监督学习（Self-Supervised Learning）
A17756070461的博客
05-20 6822
自监督学习（Self-Supervised Learning） 在神经网络的训练中，良好的性能通常需要大量有标签的数据，但是收集带有手工标签的数据是非常昂贵的(例如ImageNet)，并且很难扩大规模。考虑到未标记数据(如免费文本，互联网上的所有图像)的数量远远超过人类管理的标记数据集的数量，不使用它们是一种浪费。然而，无监督学习并不容易，而且效率通常比监督学习低得多。如果我们可以为无标记的数据免费获得标签，并以监督的方式训练无监督的数据集，那会怎么样呢？我们可以通过构建一个特殊形式的监督学习任务来实现这一
Self-supervised Learning整理
CCjoffrey的博客
09-08 1384
Self-supervised Learning Pre-train Fine-tune Pre-train Fine-tune算是一种Transfer Learning。 首先，假设按照SimCLR中的设定，将一般的模型分为两部分，分别为Encoder和Projection Head。Encoder结构类似于AutoEncoder中的Encoder部分，输出是一个低维的张量，可以称为输入数据的表征。Projection Head可以认为是一个全连接层，将Encoder输出的张量映射为更低维的张量（或者称为
自监督学习（SSL）Self-Supervised Learning
luemeon的博客
06-16 8525
有监督和无监督最主要的区别在于模型在训练时是否需要人工标注的标签信息。自监督学习最主要的目的就是学习到更丰富的语义表征。评测自监督学习的能力，主要是通过 Pretrain-Fintune 的模式。监督的 Pretrain - Finetune 流程：1.从大量的有标签数据上进行训练，得到预训练的模型，2.对于新的下游任务（Downstream task），我们将学习到的参数（比如输出层之前的层的参数）进行迁移，在新的有标签任务上进行「微调」，从而得到一个能适应新任务的网络。自监督的 Pretrain - F
【GNN综述_2021_11】Graph Self-Supervised Learning: A Survey
09-02
他们还开发了一系列评估基准，比较不同方法的性能，并提供了开源代码以促进进一步的研究。 尽管图SSL已经取得显著进展，但仍有若干挑战待解决，包括如何有效地设计针对图数据的借口任务，如何处理图的异构性和动态...
SS-SFDA-Self-Supervised-Source-Free-Domain-Adaptation-for-Road-Segmentation-in-Hazardous-Environme:论文“ SS SFDA”的代码库
04-12
论文 项目页面 在观看整个视频 如果您觉得有用，请引用我们的论文。 @article{kothandaraman2020safe, title={SAfE: Self-Attention Based Unsupervised Road Safety Classification in Hazardous Environments},...
2017CVPRSelf-Supervised Learning of Visual Features Through Embedding Images Into Text Topic Spaces
binqiang2wang
01-19 587
这个工作的背景是无监督学习，也就是现存的网络上有大量数据，如何在不使用人工进行标记的情况下来进行特征提取的学习，是一个未来很有前景的方向，比如网络上无论是社交网站还是wiki百科，都有大量图文并茂的资源，作者的意思就是利用这些”文“来指导“图”的特征提取，不是一般意义上的无监督学习。作者利用自己训练的网络当作特征提取器在分类，目标检测和图文互检索的任务上进行测试，有大量试验，但作者的效果并不是相比
Self-Supervised-Learning-for-Fine-grained:应用自我监督学习进行细粒度图像分类
04-02
细粒度的自我监督学习 此存储库具有与用于细粒度图像分类的自我监督学习相关的代码。 我使用了木薯植物病数据集
video-clip-order-prediction:通过视频剪辑顺序预测进行自我监督的时空学习
05-04
VCOP 这是我们论文“ ”的实现。 环境环境 Ubuntu 16.04 的Python 3.6.1 火炬0.4.1 先决条件 将存储库克隆到本地计算机。 $ git clone https://github.com/xudejing/VCOP.git 安装python依赖包。 $ pip install -r requirements.txt 引文 如果您认为此代码有用，请引用以下文章： @inproceedings{xu2019self, title={Self-supervised Spatiotemporal Learning via Video Clip Order Prediction}, author={Xu, Dejing and Xiao, Jun and Zhao, Zhou and Shao, Jian and Xie, Di and Zhuang
【深度学习】自监督学习详解（self-supervised learning）
Danger的博客
01-30 1万+
详解！自监督学习：对比学习和生成学习。
自监督学习 | (1) Self-supervised Learning入门
胭脂草的ABC博客
06-23 766
自监督学习 | (1) Self-supervised Learning入门 本文通过整理自监督学习的一系列工作，把主流方法分成三大类，方便大家更全面的了解自监督学习的定义、方法、用途。 学习的范式 我们首先来回顾下机器学习中两种基本的学习范式，如图所示，一种是监督学习，一种是无监督学习（林轩田课程中把机器学习范式分为监督学习、半监督学习、无监督学习以及强化学习）。 监督学习利用大量的标注数据来训练模型，模型的预测和数据的真实标签产生损失后进行反向传播（计算梯度、更新参数），通过不断的学习，最终可
Self-Supervised Learning 入门介绍
热门推荐
MOL
03-08 1万+
什么是 Self-Supervised Learning 首先介绍一下到底什么是 SSL，我们知道一般机器学习分为监督学习，非监督学习和强化学习。 而 self-supervised learning 是无监督学习里面的一种，主要是希望能够学习到一种通用的特征表达用于下游任务。 其主要的方式就是通过自己监督自己，比如把一段话里面的几个单词去掉，用他的上下文去预测缺失的单词，或者将图片的一些部分去掉，依赖其周围的信息去预测缺失的 patch。 根据我看的文章，现在 self-supervised lear
自监督学习self-supervised learning 概述
二十年蝉电子学习博客
11-22 2789
深度学习被分为：监督学习，无监督学习和自监督学习。监督学习近些年获得了巨大的成功，但是有如下的缺点：1.人工标签相对数据来说本身是稀疏的，蕴含的信息不如数据内容丰富；2.监督学习只能学到特定任务的知识，不是通用知识，一般难以直接迁移到其他任务中。无监督学习算法的结果可能不太准确,因为输入数据没有标记,并且算法事先不知道确切的输出。由于这些原因，自监督学习的发展被给予厚望。自监督学习（Self-Supervised Learning）是无监督学习里面的一种，也被称作(pretext task)
【机器学习基础】Self-Supervised Learning入门介绍
fengdu78的博客
11-26 541
引子最近 self-supervised learning 变得非常火，首先是 kaiming 的 MoCo 引发一波热议，然后最近 Yann 在 AAAI 上讲 self-superv...
Self-Supervised Learning 的近期发展综述
Bruce_0712的博客
06-08 643
前言 今年（2020） Self Supervised Learning （SSL） 的研究来到了新的高峰。 不仅在AAAI 上 LeCun， Bengio 与 Hinton 都对这领域寄与厚望;最近发表的文章也显示 SSL 得到的模型表现在 ImageNet dataset 上逐渐逼近了传统 Supervised Learning 的表现了。 近年ResNet-50在 ImageNet 上的表现 在实际应用中（例如业界中已经部署的模型）， Self Supervised Learning 未必
帮我讲解总结一下Self-Supervised Learning for Recommender Systems: A Survey这篇论文
02-22
答：本文提出了一种基于自监督学习的推荐系统，它可以提取用户和物品之间的关系，以更准确地预测用户的需求。它可以构建具有最佳性能的推荐系统，可以更好地满足用户的社交和娱乐需求。它使用机器学习算法来构建推荐...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值