-2022最新对比学习（Contrastive Learning）相关必读论文整理分享

最新推荐文章于 2025-03-29 17:22:11 发布
最新推荐文章于 2025-03-29 17:22:11 发布
阅读量536 收藏 2
点赞数
分类专栏： 深度学习视频教程及资料下载 深度学习实战 CUDA编程 文章标签： 学习 机器学习 深度学习
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/lqfarmer/article/details/127457724
版权
本文介绍了自监督学习的原理，特别是对比学习这一分支，它通过正负样本对比来学习特征表示。自编码器是生成式方法的代表，而对比学习的挑战在于正负样本构造。博客提供了对比学习相关论文资源链接，涵盖最新研究进展。

摘要生成于 C知道 ，由 DeepSeek-R1 满血版支持， 前往体验 >

    要说到对比学习（Contrastive Learning），首先要从自监督学习开始讲起。自监督学习属于无监督学习范式的一种，特点是不需要人工标注的类别标签信息，直接利用数据本身作为监督信息，来学习样本数据的特征表达，并用于下游任务。

    当前自监督学习可以被大致分为两类：

    Generative Learning vs Contrastive Learning

    Generative Learning（生成式方法）这类方法以自编码器为代表，主要关注pixel label的loss。举例来说，在自编码器中对数据样本编码成特征再解码重构，这里认为重构的效果比较好则说明模型学到了比较好的特征表达，而重构的效果通过pixel label的loss来衡量。

    Contrastive Learning（对比式方法）这类方法则是通过将数据分别与正例样本和负例样本在特征空间进行对比，来学习样本的特征表示。Contrastive Learning主要的难点在于如何构造正负样本。

    对比学习做为一种新兴热门深度学习算法，从起步逐步编程学术界和工业界研究的主流。本资源整理了最近几年对比学习相关论文，需要的朋友自取。

    资源整理自网络，资源获取见源地址：

https://github.com/asheeshcric/awesome-contrastive-self-supervised-learning

论文列表

往期精品内容推荐

AI必读10本经典-深度学习花书《Deep Learning》-中英文版分享

机器学习核心知识手册-《机器学习综述》书籍分享

图神经网络20年新书-《深度学习图神经网络模型》免费pdf分享

Hands-On Machine Learning with Scikit-Learn &TensorFlow-中英文版分享

中文自然语言处理百万级语料库-ChineseSemanticKB免费下载

欧洲计算机视觉国际会议ECCR20最新论文整理分享

CMU低资源NLP训练营-自然语言任务综述

语料库语言学：方法论指南

2020年免费新书-《自然语言处理中词向量表示算法概述》分享

【强化学习论文合集】四十.2022国际人工智能联合会议论文(IJCAI2022)
计算机科研杂货铺
11-23 3528
强化学习（Reinforcement Learning, RL），又称再励学习、评价学习或增强学习，是机器学习的范式和方法论之一，用于描述和解决智能体（agent）在与环境的交互过程中通过学习策略以达成回报最大化或实现特定目标的问题。 > 本专栏整理了近几年国际顶级会议中，涉及强化学习（Reinforcement Learning, RL）领域的论文。顶级会议包括但不限于：ICML、AAAI、IJCAI、NIPS、ICLR、AAMAS、CVPR、ICRA等。
【强化学习论文合集】三十九.2022国际表征学习大会论文(ICLR2022)
计算机科研杂货铺
11-23 3617
强化学习（Reinforcement Learning, RL），又称再励学习、评价学习或增强学习，是机器学习的范式和方法论之一，用于描述和解决智能体（agent）在与环境的交互过程中通过学习策略以达成回报最大化或实现特定目标的问题。 > 本专栏整理了近几年国际顶级会议中，涉及强化学习（Reinforcement Learning, RL）领域的论文。顶级会议包括但不限于：ICML、AAAI、IJCAI、NIPS、ICLR、AAMAS、CVPR、ICRA等。
近期必读的与ICML 2020【对比学习】相关的论文（六篇）
09-16
与往年相比，ICML 2020的接收率正逐年走低。本文发现基于对比学习（Contrastive Learning）相关的paper也不少，对比学习、自监督学习等等都是今年比较火的topic，受到了很多人的关注。
-2021最新对比学习（Contrastive Learning）相关必读论文整理分享
lqfarmer的博客
04-18 806
要说到对比学习（Contrastive Learning），首先要从自监督学习开始讲起。自监督学习属于无监督学习范式的一种，特点是不需要人工标注的类别标签信息，直接利用数据本身作为监督信息，来学习样本数据的特征表达，并用于下游任务。 当前自监督学习可以被大致分为两类： Generative Learning vs Contrastive Learning Generative Learning（生成式方法）这类方法以自编码器为代表，主要关注pixel la...
【论文阅读】Co2l: Contrastive continual learning
最新发布
moment8aVry的博客
03-29 911
该论文提出了一种名为Co²L（对比持续学习）的新方法，旨在解决持续学习中的灾难性遗忘问题。核心思想是通过对比学习（Contrastive Learning）和自监督蒸馏（Self-supervised Distillation）来持续学习和维护可迁移的表示。
对比学习论文列表（持续更新）
qq_35221036的博客
06-13 317
representation learning with contrastive predictive coding 提出一种互信息+噪声对比估计的对比学习的方法 论文 博客
对比学习论文汇总
knight的博客
08-19 326
这里写自定义目录标题1、SimCSE: Simple Contrastive Learning of Sentence Embeddings 1、SimCSE: Simple Contrastive Learning of Sentence Embeddings 论文：https://arxiv.org/pdf/2104.08821.pdf code: https://github.com/princeton-nlp/SimCSE 思想： ...
论文：对比学习 Contrastive Learning
cztAI的博客
07-25 877
Dimensionality Reduction by Learning an Invariant Mapping 论文：http://www.cs.toronto.edu/~hinton/csc2535/readings/hadsell-chopra-lecun-06-1.pdf 介绍 降维的目的是将高维数据转换为低维表示，以便将类似的输入对象映射到流形上的附近点。大多数现有的降维技术都有两个缺点。首先，它们不会产生一个从输入到流形的函数(或映射)，这个函数可以应用到与训练点的关系未知的新点上。其次，许
NeurIPS 2020上与【对比学习】相关论文（附代码，七篇）
10-20
在NeuraIPS上对比学习（Contrastive Learning）...本文为大家奉上NeurIPS 2020必读的七篇对比学习相关论文——对抗自监督对比学习、局部对比学习、难样本对比学习、多标签对比预测编码、自步对比学习、有监督对比学习。
NLP论文多个领域经典、顶会、必读整理分享及相关解读博客分享
qq_42189083的博客
05-29 3161
持续更新收集*** 1、Bert系列 BERT: Pre-training of Deep Bidirectional Transformers for Language Understanding - NAACL 2019) ERNIE 2.0: A Continual Pre-training Framework for Language Understanding - arXiv 2019) StructBERT: Incorporating Language Structures into
无监督对比学习（CL）最新必读经典论文整理分享
lqfarmer的博客
03-11 698
对比学习通过同时最大化同一图像的不同变换视图(例如剪裁，翻转，颜色变换等)之间的一致性，以及最小化不同图像的变换视图之间的一致性来学习的。相反，如果是不同的图像（即使经过各种变换可能看起来会很类似），就要最小化它们之间的相似度。Contrastive learning有很多文章介绍，区别于生成式的自监督方法，如AutoEncoder通过重建输入信号获取中间表示，Contrastive Methods通过在特征空间建立度量，学习判别不同类型的输入，不需要重建信号而又充分挖掘了无标签数据之间的特征差异。
对比学习15篇顶会论文及代码合集，2023最新
学姐带你玩AI的博客
11-21 2563
是现在无监督学习中一种常用的学习机制，它可以在没有标签的数据上进行学习，避免依赖大量标签数据，从而帮助我们更好地理解和利用数据集中的信息，提高模型的性能和表现。作为机器学习的新宠，对比学习给CV、NLP、推荐系统领域都带来了极大的福音，在图像识别、语音识别、自然语言处理等现实场景中的无监督学习任务中起到了非常重要的作用，自然也成为了各大顶会争相投稿的热门方向。今年，业内人士针对对比学习的研究热情依然不减。为了方便同学们学习，我这次整理了分享。需要论文及源码的同学看文末。
2022 ICLR | CONTRASTIVE LEARNING OF IMAGE- AND STRUCTURE BASED REPRESENTATIONS IN DRUG DISCOVERY
发呆的比目鱼的博客
06-12 682
CLOOME:一个基于多模态对比学习的分子表征工具
对比学习论文综述
连理o的博客
02-26 5742
目录第一阶段：百花齐放InstDisc (Instance Discrimination)InvaSpread (Invariant and Spreading Instance Feature)References 第一阶段：百花齐放 InstDisc (Instance Discrimination) paper: Unsupervised Feature Learning via Non-Parametric Instance Discrimination Motivation 作者提出的 I
机器学习新宠：对比学习论文实现大合集，60多篇分门别类，从未如此全面
09-27 1927
点击上方，选择星标或置顶，每天给你送上干货作者|对白  出品|公众号：对白的算法屋大家好，我是对白。最近对比学习真的太火了，已然成为各大顶会争相投稿的一个热门领域，而它火的原因也很简单，就是因为它解决了有监督训练标注数据有限这个典型问题（这个问题在工业界非常滴常见）。所以对比学习的出现，给CV、NLP和推荐都带来了极大的福音，具体来说：1、在CV领域，解决了“在没有更大标注数据集的情况下，如何采用自监督预训练模式，来从中吸取图像本身的先验知识分布，得到一个预训练模型”的问题；2、在NLP
对比学习论文综述（part4 transformer + 总结）
qq_45807235的博客
12-13 1998
第四阶段讲的是Transformer是如何将对比学习有机结合起来的
对比学习系列论文SDCLR（二）-Self-Damaging Contrastive Learning
qq_43210957的博客
10-24 560
0.Abstract 0.1逐句翻译 The recent breakthrough achieved by contrastive learning accelerates the pace for deploying unsupervised training on real-world data applications. 最近通过对比学习取得的突破加快了在真实数据应用中部署无监督训练的步伐。 However, unlabeled data in reality is commonly imbalan
对比学习论文综述(part1、2)
qq_45807235的博客
12-12 876
对比学习综述part1 2 (1/3)
论文精读--对比学习论文综述
m0_73202283的博客
02-18 2515
把每个实例(也就是图片)都看作一个类别，目标是学一种特征，从而让我们能把每一个图片都区分开来。
generative aspect-based sentiment analysis with contrastive learning and exp
01-13
综上所述，generative aspect-based sentiment analysis with contrastive learning and exp的方法可以帮助我们更准确地识别和生成文本中的情感内容，并且能够更好地适应不同类型文本的情感分析和生成任务。...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

lqfarmer

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值