对比学习 - Contrast Learning

最新推荐文章于 2024-10-08 20:27:53 发布
最新推荐文章于 2024-10-08 20:27:53 发布
阅读量195 收藏
点赞数 3
文章标签： 人工智能
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/Haipai1998/article/details/141992165
版权

资料：https://www.bilibili.com/video/BV1zr4y1b7F9/?spm_id_from=333.337.search-card.all.click&vd_source=7937b6a7f9a5d6039ca9930d7985aaf7

对比学习：通过 比较数据对的相似或者不同获取数据的高阶信息
三个步骤：数据扩增形成新的Positive数据对→送到DNN得到res1,res2→res2和res2两者的loss要尽量小（使用cosine similarity或者cross-entropy）

Conchpeng
关注
自监督学习-对比学习-MoCo Momentum Contrast 阅读笔记
weixin_43656644的博客
07-21 2863
MOCO用于无监督表征学习。我们从另外一个角度来理解对比学习，即从一个字典查询的角度来理解对比学习。moco中建立一个动态的字典，这个字典由两个部分组成一个队列queue和一个移动平均的编码器moving-averagedencoder。这两个东西造就了一个更大的和更一致consistent的字典，对无监督的对比学习有很大的帮助。(队列中的样本不需要做梯度反传，因此可以在队列中存储很多负样本，从而使这个字典可以变得很大。......
基于contrast learning的few-shot learning论文集合（1）
weixin_43994864的博客
05-07 1192
论文一：《Learning a Few-Shot Embedding Model with Contrastive Learning》AAAI 2021 论文链接：https://www.aaai.org/AAAI21Papers/AAAI-2249.LiuC.pdf 代码链接：https://github.com/corwinliu9669/Learning-a-Few-shot-Embedding-Model-with-Contrastive-Learning 本文提出一种新的对比训练方案infoP
对比学习 Contrast Learning
银晗的学习博客
08-27 570
监督对比学习的目标是最大化正样本对（同一类别的样本）的一致性，并最小化负样本对（不同类别的样本）的一致性。监督对比损失通过鼓励正样本对的表示在嵌入空间中更加接近，同时将负样本对的表示推开来实现这一目标。对比损失：Supervised Contrastive Loss（监督对比损失）是一种在监督对比学习中使用的损失函数。它旨在学习既具有区分性又具有对同一类别内变化具有不变性的表示。
对比学习Contrastive Learning
m0_66184663的博客
10-23 218
最终Loss=Loss_传统+Loss_对比学习(一般是infoNCE、SimCLR、triplet...)相似的样本的向量距离要近，不相似的要远，以此获得数据的高阶信息。中就是图片的随机裁剪、随机颜色失真、随机高斯模糊。方法，在无标签数据集上仍可以学习到较好的表征。的训练样本，通过数据扩增，变成了。首先进行数据扩增，对于一个样本。中用的是随机删除边和随机删除。cv、nlp领域用的多。对比学习的主要思想就是。）就称为一个正样本对。接下来进行对比学习，
对比自监督学习综述 - A Survey of Contrastive Self-Supervised Learning
Xovee
12-24 8098
本文介绍了最近流行的对比自监督学习。
Graph Self-Supervised Learning: A Survey
小蚂蚁与大象
08-24 1277
图的深度学习近年来引起了人们的极大兴趣。然而，大多数工作都集中在(半)监督学习上，导致了标签依赖严重、泛化能力差、鲁棒性弱等缺点。为解决这些问题，。与计算机视觉和自然语言处理等其他领域的SSL不同，图形上的SSL具有独特的背景、设计思想和分类方法。在图自监督学习的框架下，对对图数据采用SSL技术的现有方法进行了及时和全面的回顾。构建了一个统一的框架，从数学上形式化了graph SSL的范式。根据前置任务的目标，将这些。
【深度学习：（Contrastive Learning） 对比学习】深入浅出讲解对比学习
热门推荐
欢迎来到最优秀的博客
01-04 1万+
对比学习是一种学习方法，侧重于通过对比正反两方面的实例来提取有意义的表征。它利用的假设是，在学习到的嵌入空间中，相似的实例应靠得更近，而不相似的实例应离得更远。通过将学习作为一项辨别任务，对比学习允许模型捕捉数据中的相关特征和相似性。
基于contrast learning的few-shot learning论文集合（2）
weixin_43994864的博客
05-09 1053
论文三：《Supervised Momentum Contrastive Learning for Few-Shot Classification》CoRR 2021 论文链接：https://arxiv.org/pdf/2101.11058.pdf 代码链接：无 这项工作中，作者通过将鉴别性的实例对比学习和监督性学习结合在一个称为Supervised Momentum Contrastive learning **(SUPMOCO)**的框架中，研究了自监督和监督学习这两种信息源的互补作用 论文四：
【机器学习基础】Self-Supervised Learning入门介绍
fengdu78的博客
11-26 528
引子最近 self-supervised learning 变得非常火，首先是 kaiming 的 MoCo 引发一波热议，然后最近 Yann 在 AAAI 上讲 self-superv...
ai-contrast:使用机器学习为每种颜色猜测正确的前景
05-18
总的来说，"ai-contrast"项目展示了如何将机器学习和神经网络技术应用于实际问题，通过智能化预测，提升数字内容的颜色对比度，改善用户体验，同时也是一个学习和探索AI技术在前端开发中应用的好例子。
基于Keras的U-Net模型在图像分割与计数中的应用
深度学习实战训练营，一起交流探索深度学习
10-04 1490
网络结构优化：项目基于经典的U-Net模型进行改进，采用了更深的网络层次结构，使模型能够在多尺度上捕捉到图像中的细节信息。特别是针对医学图像分割，项目通过增加卷积层数和引入Dropout层来增强模型的特征提取能力，并有效防止过拟合，从而提高模型在训练数据较少情况下的表现。项目中采用了he_normal初始化器和relu激活函数组合，使得网络在训练时能够更快地收敛，降低梯度消失的风险。自定义数据增强策略：在中实现了一个自定义的图像增强类。
毒蘑菇检测数据集 9200张 14类毒蘑菇 带标注 voc yolo
阿利同学的博客
10-07 1043
毒蘑菇检测数据集 9200张 14类毒蘑菇 带标注 voc yolo
大模型~合集5
whaosoft~aiotの开发板商城
10-02 1683
FLock 的机制设计受到了证明权益（PoS）区块链共识机制和桌面游戏《The Resistance》（一种角色扮演类游戏，该游戏的一个变种叫阿瓦隆）的启发。《The Resistance》游戏则通过投票机制，每轮游戏中玩家独立推理并投票，从而实现全局共识。《The Resistance》有两个不匹配的竞争方，其中较大的一方被称为抵抗力量，另一方被称为间谍。在《The Resistance》中，有一个投票机制，在每一轮中，每个玩家进行独立推理并为一个玩家投票，得票最多的玩家将被视为「间谍」并被踢出游戏。
北大对齐团队深度硬核解读：OpenAI o1开启「后训练」时代强化学习新范式
ys707663989的博客
10-06 1772
本文深入探讨了OpenAI o1的技术细节、的实现、合成数据与推理搜索的优化，以及AI安全的新启示，展示了大语言模型在推理能力提升和安全对齐方面的最新进展与未来方向。
【开源开放体系总结】
m0_53291740的博客
10-06 811
书生・浦语大模型全链路开源开放体系的出现，为人工智能领域的发展带来了新的活力和机遇。它涵盖了从模型研发到应用部署的全流程，旨在促进技术的共享与创新，推动人工智能技术在各个领域的广泛应用。本文将对该体系进行详细总结，探讨其各个组成部分的特点、优势以及对人工智能发展的意义。
树莓派外挂Camera4（pipeline）
fanged的专栏
10-03 621
现在说起Pipeline都有点迷糊了，很多都是这个概念。GStreamer里面有，相机里面有，然后还有别的地方也有。pipeline本身其实没什么特殊的，简单理解就是一段处理。晚上查了一下，确实这几个地方都叫pipeline，然后树莓派还有个自己的Post-processing，也就是后处理。今天主要说camera的和Post-processing的。
文本区域分割系统源码＆数据集分享
最新发布
lzmlzm89的博客
10-08 1059
数据集信息展示在现代计算机视觉领域，文本区域分割的研究日益受到重视，尤其是在处理文档图像和名片等场景时。为此，我们构建了一个名为“more2”的数据集，旨在为改进YOLOv8-seg模型提供丰富的训练素材，以提升其在文本区域分割任务中的表现。该数据集包含五个类别，具体包括“0”、“2”、“business-name-card”、“doc”和“wendang”，每个类别均具有独特的特征和应用场景，能够为模型的训练提供多样化的样本。
pytorch版本和cuda版本不匹配问题
分享计算机视觉，C++，网络摄像头研发，音视频开发，嵌入式等知识。
10-06 410
发现cuda11.8支持pytorch2.0.0。
图谱对比学习新视角：NeurIPS 2022 SpCo 模块解析
为了进一步提升GCL的性能，研究者提出了谱图对比学习模块（Spectral Contrast, SpCo）。SpCo作为一个通用且对GCL友好的组件，可以与现有的多种GCL模型集成。实验结果显示，SpCo能显著提高不同GCL方法的性能，证明了...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值