度量学习、细粒度识别相关论文阅读笔记（一）——SoftTriple Loss

最新推荐文章于 2023-05-20 13:41:48 发布
最新推荐文章于 2023-05-20 13:41:48 发布
阅读量3.6k 收藏 14
点赞数 6
分类专栏： CV论文解读 文章标签： 深度学习 计算机视觉
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/weixin_43273742/article/details/104113310
版权
本文是关于度量学习和细粒度识别中SoftTriple Loss的论文阅读笔记，详细解释了Triple Loss原理、采样方法、SoftTriple Loss的改进，包括normalized softmax、多个中心思想和自适应中心数策略。此外，还讨论了其在网络结构中的应用，并以Cars196数据集为例进行了实验。
摘要由CSDN通过智能技术生成

度量学习、细粒度识别相关论文阅读笔记（一）——SoftTriple Loss

之前调研了几篇度量学习、细粒度识别相关领域的最新论文，现将之前做的论文笔记分享出来供大家一起探讨。
因为之前没有涉及过相关领域，如果有的地方理解不够准确希望大家指正。

文章目录

先回顾一下Triplet loss的原理以及应用。

Triple Loss

Triple Loss

Triplet loss最初是在 FaceNet: A Unified Embedding for Face Recognition and Clustering 论文中提出的，应用于人脸识别任务中。目前，Triplet loss也被广泛应用于各种细粒度识别任务中。
Triplet loss的目的是学习一个好的embedding，使得同一个人的人脸在嵌入空间中尽量接近，不同人的人脸在嵌入空间中尽量远离。
在这里插入图片描述
可以写成如下公式：
在这里插入图片描述
其中，a表示anchor， p表示同类样本，n表示异类样本。 为margin， 用来卡阈值，控制正负样本的距离，从而判断是不是属于同一个类别。
论文中的损失函数公式定义为：
在这里插入图片描述

Triplets挖掘

基于前文定义的Triplet loss，可以将采样得到的三元组分为以下三类：
easy triplets：L = 0，即满足，这种情况属于易分类三元组
hard triplets：，这种情况下anchor与同类样本距离远，属于会被误识别的三元组
semi-hard triplets：，这种情况下被称作难样本。
在网络训练中ÿ

最低0.47元/天 解锁文章
L的知识库
关注
专栏目录
细粒度分类：MC-Loss论文笔记——The Devil is in the Channels: Mutual-Channel Loss for FGVC
qq_50001789的博客
06-23 338
论文题目《The Devil is in the Channels: Mutual-Channel Loss for Fine-Grained Image Classification》 本文提出了一种用于学习局部判别特征的损失函数——通道交互损失(MC-Loss)，该损失可以有效地驱动特征通道更具有区分性，并且让其聚焦于各个区域。更重要的是在不引入额外参数的前提下，可以将该损失应用到不同的网络架构中，提升网络的细粒度特征提取能力。
深度度量学习小综述
weixin_38817895的博客
08-17 1077
深度度量学习：对比损失[1]首次将深度神经网络引入度量学习，它只约束类内对的特征尽量近而类间对的特征尽量远，三元组损失[2]在对比损失的基础上进一步考虑了类内对与类间对之间的相对关系，首先固定一个锚点样本（anchor），希望包含该样本的类间对（anchor-negative）特征的距离能够比同样包含该样本的类间对特征的距离大一个间隔。由于三元组损失一次采样三个样本，虽然能够同时考虑类间距、类内距以及二者的相对关系，但没有充分利用每个batch内的所有样本，因此[3]提出在一个batch内建立稠密的成对（p
pytorch_metric_learning 一个灵活且可扩展的度量学习库，用PyTorch编写-python
06-18
pytorch_metric_learning 一个灵活且可扩展的度量学习库，用PyTorch编写 PyTorch Metric Learning News 6 月 20 日：v0.9.87 带来了一些可能导致您现有代码中断的重大更改。 有关详细信息，请参阅发行说明。 文档 在此处查看文档 Google Colab 示例 请参阅笔记本的示例文件夹，其中显示了带有日志记录和模型保存的整个训练/测试工作流程。 该库的优点 易于使用 在您的训练循环中只需 2 行代码即可将度量学习添加到您的应用程序中。 使用单个函数调用挖掘对和三元组。 灵活性以其他图书馆不允许的方式混合和匹配损失、矿工和培训师。 安装 Pip pip install pytorch-metric-learning 要获得最新的开发版本： pip install pytorch-metric-learning==0.9.88 在 Windows 上安装： pip install torch===1.4.0 torchvision===0.5.0 - f https://download.pytorch.org/wh
SoftTriple Loss
weixin_44742887的博客
06-29 1119
目录19-ICCV-SoftTriple Loss：Deep Metric Learning Without Triplet SamplingSoftTriple LossMultiple CentersAdaptive Number of Centers1）SoftMax loss is equivalent to a smoothed triplet loss where each class has a single center.现实中一个类不只有一个中心，例如鸟有很多姿势（从细粒度角度解释）。扩展
SoftTriple Loss: Deep Metric Learning Without Triplet Sampling
orangerfun的博客
12-23 2832
1. Abstract 距离度量学习（DML）用于学习嵌入，其中来自同一类别的示例比来自不同类别的示例更接近。 可以将其转换为具有三重态约束的优化问题。 由于存在大量三元组约束，因此DML的采样策略必不可少。随着深度学习在分类领域的巨大成功，它已被应用于DML。 当使用深度神经网络（DNN）学习嵌入时，每次迭代仅可获得一小部分数据。三重约束的集合必须在小批次中采样。 由于小批量无法很好地捕获原始集合中的邻居，因此使学习到的嵌入次优。相反，使用DNN优化作为分类损失的SoftMax损失在某些DML任务中表现出
度量学习、细粒度识别相关论文阅读笔记（二）—— RA-CNN（细粒度、注意力机制）
CV小菜鸟的博客
01-30 1606
度量学习、细粒度识别相关论文阅读笔记（二）——Look Closer to See Better：Recurrent Attention Convolutional Neural Network for Fine-grained Image Recognition—RA-CNN（细粒度、注意力机制） 细粒度分类（fine-grained） RA-CNN 网络优点 网络流程 网络结构 分类和at...
【自监督论文阅读笔记】Simmim: A simple framework formasked image modeling
YoooooL_的博客
10-20 1540
本文介绍了，这是一个的简单框架。本文简化了最近提出的相关方法，，例如通过离散 VAE 或聚类 进行 block-wise 分块级的掩码 和 tokenization。为了研究，本文系统地研究了本文框架中的主要组件，并发现 每个组件的简单设计 都显示出 非常强的表示学习性能：1）中等大小的掩码patch（例如，32）是一个；2)直接回归原始像素的 RGB 值；3）预测头轻，。
度量学习整理笔记
qq_38747027的博客
08-24 699
深度度量学习初步整理 知乎：triplet loss 在深度学习中主要应用在什么地方？有什么明显的优势？ 文章链接 Triplet loss通常是在个体级别的细粒度识别上使用，传统的分类是花鸟狗的大类别的识别，但是有 些需求是要精确到个体级别，比如精确到哪个人的人脸识别，所以triplet loss的最主要应用也就是 face identification, person re-identification, vehicle re -identification的各种identification识 别问题上
达摩院细粒度分类SoftTriple Loss ICCV高引论文深入解读
孙佰贵的专栏
12-21 6328
SoftTriple Loss论文是在图像细粒度分类领域提出了新型度量学习方法，该方法可以被广泛应用于各种搜索、识别等领域中，目前谷歌学术引用240+，相对高引。相比原始论文文档，本文将介绍更多研究过程中遇到的问题点以及相应创新方法的演进历史。
经典回顾 | 达摩院细粒度分类方法 SoftTriple Loss 之 ICCV 高引论文深入解读
最新发布
专注计算机视觉全栈知识分享
05-20 340
本文总结了关于深度度量学习中的局限性，并提出了一种名为的解决方案。作者指出，从小批量数据中采样三元组可能导致对整个数据集覆盖不足，从而降低深度度量学习模型的性能。为了解决这个问题，作者提出用多个中心来表示每个类别，并使用原始示例与类别之间的相似性定义了三元组，通过在模型的最后一个全连接层中编码这些中心。通过将纳入用于分类的标准SGD训练流程中，最终消除了采样阶段并直接学习嵌入向量。总的来说，SoftTriple在细粒度基准数据集上展现出一致的改进效果，证实了所提出的损失函数的有效性。
【论文理解】两篇最新提升度量学习效果的少样本分类论文探讨——QPN和DCAP算法
lijianyi0219的博客
03-31 3405
内容概览前言一、基于度量学习的少样本分类1.算法描述2.缺点二、DCAP算法介绍1.算法流程2.密集分类3.注意力池化（Attentive Pooling）三、QPN算法介绍1.算法流程2.多尺度特征3.特定类特征生成总结 前言 本博文要介绍的两篇论文是2021年3月底挂在arxiv上的新文章，它们都是对基于度量学习的少样本分类算法进行了改进，并且改进点都在构造更优的用于度量的图像特征和类特征上面。 两篇文章的算法其实都不难，并且均采用了注意力以及关注图像小区域的密集特征方法。在本博文中对它们提出的核心技
Triplet Loss: A Unified Embedding for Face Recognition and Clustering（论文阅读笔记）（2015CVPR）
sinat_41942180的博客
07-01 1634
论文链接：《FaceNet: A Unified Embedding for Face Recognition and Clustering》 摘要 尽管人脸识别领域最近取得了重大进展[10,14,15,17]，但大规模高效地实现人脸验证和识别对现有方法提出了严峻挑战。在这篇论文中，我们提出了一个叫做FaceNet的系统，它可以直接从人脸图像学习到一个紧凑的欧几里德空间的映射，其中距离直接对应于人脸相似性的度量。一旦生成了这个空间，使用以FaceNet嵌入（embeddings）为特征向量的标准技术.
SoftTriple Loss: Deep Metric LearningWithout Triplet Sampling
xiaozhshi的博客
10-07 2898
代码地址： https://github.com/idstcv/SoftTriple ICCV19 文章结构可以分为以下3个部分： 1、推导softmax loss和只有一个center的triplet loss等价； 2、引入多个center； 3、max到softmax计算相似度。 文章的逻辑我认为是softmax loss便于使用，triplet loss用来理解center ...
论文阅读：Beyond triplet loss: a deep quadruplet network for person re-identification
李加贝的博客
11-10 1002
之前的工作通常将person ReID作为一个ranking task，并且使用triplet loss，triplet loss主要是为了在映射空间中获得一个图像和identities的正确顺序，但是基于这种方法的模型，泛化能力不好，作者认为这潜在的原因是由于triplet loss会导致一个相对较大的类内差异，通过缩小类内差异并且增加类间差异可以进行改善 针对上述问题，作者基于triplet loss进行修改，提出了一个quadruplet ranking loss, 实现了缩小类内差异以及增加类间差
改进三元组损失
VIEO
04-27 1725
三元组损失tripletloss 改进三元组损失
评论 2
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值