【论文研读】Self-supervised：AMDIM， DIM

最新推荐文章于 2024-06-07 09:49:56 发布
最新推荐文章于 2024-06-07 09:49:56 发布
阅读量3.8k 收藏 2
点赞数 1
分类专栏： 论文研读 文章标签： 深度学习 互信息 自监督 无监督学习
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/Always_ease/article/details/104409545
版权
本文深入探讨了两种自监督学习方法——DIM（Deep InfoMAX）和AMDIM。DIM通过最大化互信息来学习深度表示，强调同一图像的局部与全局特征的相关性。AMDIM则在DIM基础上引入多尺度特征，增强了模型的表现。研究表明，这些方法在无监督和半监督图像分类任务中表现出色。
摘要由CSDN通过智能技术生成

一、DIM（Deep InfoMAX）

Title：Learning deep representations by mutual information estimation and maximization（2019ICLR）

Author：R Devon Hjelm（MSR Montreal）

Method：

主要使用最大化互信息的思想，同一张图的局部特征和全局特征应高度相关，另一张的局部特征不相关。采用NCEloss得到score

实际操作中的两种方法：

           

 

二、AMDIM

Title&#x

最低0.47元/天 解锁文章
Always_ease
关注
专栏目录
自监督论文阅读笔记 Self-EMD: Self-Supervised Object Detection without ImageNet
YoooooL_的博客
05-04 2094
提出了一种新的自我监督表示学习方法 Self-EMD，用于目标检测。Self-EMD直接在 COCO 等未标记的非标志性图像数据集上进行训练，而不是像 ImageNet 这样常用的标志性目标图像数据集。Self-EMD将卷积特征图作为图像嵌入来保留空间结构，并采用EMD来计算两个嵌入之间的相似性。受益于 更多未标记数据 的优点。 自监督学习流程的潜在先验 是同一图像的不同视图/裁剪对应于同一对象。因此最大化他们的一致性可以学习有用的特征。这个关键的先验实际上高度 依赖于预...
《HR-Depth：High Resolution Self-Supervised Monocular Depth Estimation》论文笔记
m_buddy的博客
04-04 1345
参考代码：HR-Depth 1. 概述 介绍：这篇文章研究的是如何在自监督场景下预测得到细节更加丰富的深度结果，在现有的自监督深度估计网络中往往是通过增大输入图像尺寸、3D卷积（如，PackNet-SFM）或是分辨率通道编码（如，nn.PixelShuffle())的方式。这篇文章比较系统探究了自监督深度估计中影响深度估计效果的原因，在文章中将其归纳为两点原因：语义信息与空间信息的不足，它俩分别侧重描述的是物体的类别与边界。对此文章提出了两点改进的点： 1）对原本shortcut连接进行优化，获取更好的高
探索深度学习的未来：AMDIM——一种基于多视角最大互信息的自监督表示学习方法
最新发布
gitblog_00013的博客
06-07 265
探索深度学习的未来：AMDIM——一种基于多视角最大互信息的自监督表示学习方法 amdim-publicPublic repo for Augmented Multiscale Deep InfoMax representation learning项目地址:https://gitcode.com/gh_mirrors/am/amdim-public 项目简介 AMDIM（Augmented M...
【论文笔记——AMDIM】Learning Representations by Maximizing Mutual Information Across Views
Lethe's Blog
11-21 4026
arxiv：https://arxiv.org/abs/1906.00910 code：https://github.com/Philip-Bachman/amdim-public 1 Introduction 这篇文章是对 DIM 进行的一个扩展研究（主要是Local DIM），主要是在 DIM 的基础上引入了 mutiple views ，也就是最大化一个共享 context 中不同视图(views)之间互信息（Across Views）。 什么是 mutiple views 呢？例如，我们观察一个事
【对比自监督学习】SimCLR、CPC、AMDIM并无本质差异
idol24的博客
09-16 1979
点击上方“机器学习与生成对抗网络”，关注"星标"获取有趣、好玩的前沿干货！来源 | towardsdatascience转自 | 新智元 编辑 | QJP、小...
【论文笔记——DIM】Learning Deep Representations By Mutual Information Estimation and Maximization
Lethe's Blog
11-07 4457
arxiv：https://arxiv.org/abs/1808.06670 code：https://github.com/rdevon/DIM report video：https://www.youtube.com/watch?v=o1HIkn8LEsw&t=256s 1 Introduction 无监督学习一个重要的问题就是学习有用的 representation，本文的目的就是训练一个 representation learning 函数（即编码器encoder） ，其通过最大编码器输入和
对PyTorch的dim的理解
qq_39686950的博客
03-30 1595
文章目录前言多维张量的维度torch.max()torch.argmax()torch.softmax()torch.stack()总结 前言   做深度学习的项目，离不开对tensor的操作，tensor中文名称是张量，以PyTorch框架为例，张量是PyTorch的基本数据类型，初学者对张量操作时，常常会被dim这个参数困扰，本文测试了torch.max()、torch.argmax()、torch.softmax()、torch.stack()四个函数的dim值，以利于初学者对dim和张量的理解。
SS-SFDA-Self-Supervised-Source-Free-Domain-Adaptation-for-Road-Segmentation-in-Hazardous-Environme:论文“ SS SFDA”的代码库
04-12
论文 项目页面 在观看整个视频 如果您觉得有用，请引用我们的论文。 @article{kothandaraman2020safe, title={SAfE: Self-Attention Based Unsupervised Road Safety Classification in Hazardous Environments},...
图像模糊matlab代码-self-supervised:自监督学习
06-04
论文中使用的南瓜数据集 ss_net.m ：使用建议方法的示例 同轴错误检测：应用示例 epfl_car : epfl car 数据集的实验 EPFL 汽车数据集的结果 方法 平均AE 中位数AE 有标签 无标签 我们的方法 1 9.28 3.5 1079 0 我们...
Self-supervised-Fewshot-Medical-Image-Segmentation:[ECCV'20]具有超像素的自我监督
05-16
SSL_ALPNet [ECCV'20]像素的 摘要： 很少使用的语义分割（FSS）在医学成像应用中具有巨大的潜力。 现有的大多数FSS技术都需要大量的带注释的语义类进行训练...如果您认为此代码库很有用，请引用我们的论文。 谢谢！
DIM（Learning deep representations by mutual information estimation and maximization）
林小川的博客
09-17 6948
论文：https://arxiv.org/pdf/1808.06670.pdf 摘要： 许多表示学习只使用已探索过的数据空间（称为像素级别），当一小部分数据十分关心语义级别时，该表示学习将不利于训练。论文提出了无监督表示学习，直接学习和估计信息内容，统计或结构约束。论文最大化输入信息和高级特征向量之间的互信息与通过对抗匹配先验分布来控制表示学习的特征。 介绍： 人工智能单元在预测和规划时不...
NLP算法面试必备！史上最全！PTMs：NLP预训练模型的全面总结
喜欢打酱油的老鸟
04-30 2808
预训练模型(Pre-trained Models,PTMs)的出现将NLP带入了一个全新时代。2020年3月18日，邱锡鹏老师发表了关于NLP预训练模型的综述《Pre-trained Models for Natural Language Processing: A Survey》[1]，这是一篇全面的综述，系统地对PTMs进行了归纳分类。 本文以此篇综述论文为主要参考，通过借鉴不同的归纳方法进...
由Deep InfoMax开始对比学习
学姐带你玩AI的博客
03-08 726
这篇文章是对比学习的开山之作之一，为对比学习提供了理论支撑，指导了后来人如何正确选择合适的对比函数损失。
Deep InfoMax (DIM)
连理o的博客
08-11 981
deep infomax
Deep InfoMax
yhblog的博客
11-20 127
参考 https://www.jiqizhixin.com/articles/2018-09-06-8
论文阅读博客||很多论文阅读笔记
VIEO
06-01 2099
元学习论文总结||小样本学习论文总结 2017-2019年计算机视觉顶会文章收录 AAAI2017-2019 CVPR2017-2019 ECCV2018 ICCV2017-2019 ICLR2017-2019 NIPS2017-2019 https://www.cnblogs.com/wangxiaocvpr/category/754856.html Social GAN: Soci...
MINE(mutual) information neural estimaiton)
林小川的博客
09-20 6511
论文：https://arxiv.org/pdf/1801.04062.pdf 摘要： 论文指出，可以使用神经网络梯度下降算法对高维度连续随机变量间的互信息进行估计，MINE 算法在维度上和样本大小上是线性可测量的，可使用反向传播算法训练。MINE算法可以最大或者最小化互信息，提升生成模型的对抗训练，突破监督学习分类任务的瓶颈。 介绍： 互信息的定义如下公式所示：是一个联合概率分布，与是边...
2018年国外主要实验室和科研团队成果和动向
SIGAI_CSDN的博客
02-15 3109
2018年国外主要大牛和实验室动向和成果
深度学习中的互信息：无监督提取特征
Paper weekly
10-11 7242
作者丨苏剑林单位丨广州火焰信息科技有限公司研究方向丨NLP，神经网络个人主页丨kexue.fm对于 NLP 来说，互信息是一个非常重要的指标，它衡量了两个东西的本质相关性...
SuperPoint: Self-Supervised Interest Point Detection and Description
05-29
It is a self-supervised method, meaning that it learns to detect and describe interest points without any labeled data. Instead, it uses a loss function that encourages the model to produce ...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值