论文阅读：Beyond triplet loss: a deep quadruplet network for person re-identification

于 2021-11-10 10:01:10 发布
阅读量936 收藏 3
点赞数
分类专栏： Person ReID 文章标签： 机器学习 计算机视觉 深度学习
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/qq_38990652/article/details/121242308
版权

之前的工作通常将person ReID作为一个ranking task，并且使用triplet loss，triplet loss主要是为了在映射空间中获得一个图像和identities的正确顺序，但是基于这种方法的模型，泛化能力不好，作者认为这潜在的原因是由于triplet loss会导致一个相对较大的类内差异，通过缩小类内差异并且增加类间差异可以进行改善

针对上述问题，作者基于triplet loss进行修改，提出了一个quadruplet ranking loss, 实现了缩小类内差异以及增加类间差异

之前的工作通常将person ReID作为一个ranking task，并且使用triplet loss，triplet loss主要是为了在映射空间中获得一个图像和identities的正确顺序，但是基于这种方法的模型，泛化能力不好，作者认为这潜在的原因是由于triplet loss会导致一个相对较大的类内差异，通过缩小类内差异并且增加类间差异可以进行改善

针对上述问题，作者基于triplet loss进行修改，提出了一个quadruplet ranking loss, 实现了缩小类内差异以及增加类间差异

该loss是基于两方面进行设计的：1）获得正确的对顺序 2）推远负样本

作者并且提到，第二方面对于模型训练时的性能提升可能没有很大的必要，但是对于在测试集上的泛化能力的增强帮助很大

作者基于quadruplet loss提出了一个quadruplet deep network，引入了一个margin-based 在线难负样本挖掘来选择难负样本来训练模型，并且自适应的调整margin

The triplet loss

使得xj相比于xk更接近xi

采用欧氏距离来衡量两个图像特征之间的相似度

作者使用一个可学习矩阵g(xi, xj)来替换欧式距离，这样可以有效的建模查询图像和图像集的复杂关系，如图2（b）

在公式（1）中，由于经过了正则化，因此欧氏距离的输出在[0,1]之间，但是在（2）中，g(xi, xj)是一个值而不是一个向量，因此不能在[0,1]之间，并且可能使得margin无效

The quadruplet loss

作者首先提出对于图2（b）缺乏正则化的优化方法，使用一个带有两个维度输出的全连接层，如图2（c），由于g(x i, x j)表示两个图像之间的距离，越大表示两个图像越不相似，因此g(x i, x j)的值和两个图像不相似的概率成正比

因此作者认为全连接层两个输出之一在一定程度上可以被视为两个图像不相似的概率，作者使用了一个softmax layer对这两个输出进行正则化，可以将输出范围控制在[0,1]，然后将其中一个输出维度作为两个图像不相似个概率，送到loss中进行训练

Triplet loss训练仅基于正负样本对，作者在quadruplet loss中引入了一个新的约束，在不同的负样本对中推远正负样本对间的距离

该损失的第一项和triplet loss 相同，关注于正负样本对之间的相对距离，第二项是一个新的约束，考虑了正样本对与不同负样本对与负样本之间的距离，通过这损失使得最小类间距离大于最大类内距离

由于第二项仅做为一个辅助项，因此它不应该主导训练过程，和第一项有着不等的重要性

作者采用了margin阈值来决定这两项的权重，具体为，是的a1>a2

 

作者使用正样本对和负样本对距离分布的平均值来自适应的调整margin

在训练过程中，只有样本距离小于平均距离的样本才通过反向传播，作为难样本

 

Experiments

李加贝_
关注
  • 0
    点赞
  • 踩
  • 3
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
Beyond triplet loss—— Re-ID
shuzfan的专栏
04-15 1万+
一篇讲Person Re-ID的论文，来自CVPR2017，同样是改进了Triplet Loss。《Beyond triplet loss: a deep quadruplet network for person re-identification》 减小类内方差 和 增加类间方差
Beyond triplet loss: a deep quadruplet network for person re-identification泛读记录
论文学习笔记-《Fast Online Object Tracking and Segmentation- A Unifying Approach》
06-14 723
文章目录概述方法The triplet lossThe quadruplet lossRelationships of different lossescontrastive loss 概述 三元损失训练的模型泛化能力不强，类内方差依然较大，作者提出四元损失函数，用于减小类内方差 和 增加类间方差。 贡献 1.四元损失函数 2.基于边缘在线难例选择策略 3.对Loss的理论分析 4.实验 方法 T...
Triplet Loss: A Unified Embedding for Face Recognition and Clustering（论文阅读笔记）（2015CVPR）
sinat_41942180的博客
07-01 1602
论文链接：《FaceNet: A Unified Embedding for Face Recognition and Clustering》 摘要 尽管人脸识别领域最近取得了重大进展[10,14,15,17]，但大规模高效地实现人脸验证和识别对现有方法提出了严峻挑战。在这篇论文中，我们提出了一个叫做FaceNet的系统，它可以直接从人脸图像学习到一个紧凑的欧几里德空间的映射，其中距离直接对应于人脸相似性的度量。一旦生成了这个空间，使用以FaceNet嵌入（embeddings）为特征向量的标准技术.
行人检索--Beyond triplet loss: a deep quadruplet network for person re-identification
AI小作坊 的博客
04-19 4974
Beyond triplet loss: a deep quadruplet network for person re-identification CVPR2017 https://arxiv.org/abs/1704.01719本文使用深度学习进行行人检索，侧重点主要在损失函数的改进，提出了 quadruplet loss 用于减小类内方差 和 增加类间方差上图显示，在我们新的 quadr
基于Triplet loss函数训练人脸识别深度网络（Open Face）
zzyy0929的博客
10-23 4641
官方下载地址Git:  http://cmusatyalab.github.io/openface/ FaceNet’s innovation comes from four distinct factors: (a) thetriplet loss, (b) their triplet selection procedure, (c) training with 100 million
【论文阅读】Improving Face Recognition from Hard Samples via Distribution Distillation Loss
weixin_43169773的博客
08-22 1145
论文地址 代码地址 其他的博客：主要是翻译 知乎的介绍 Abstract 目前基于深度学习的人脸识别算法已经可以较好的处理简单样本，但对于困难样本（低分辨率、大姿态等）仍表现不佳。目前主要有两种方式尝试解决这一问题。第一种方法是充分利用某种需要处理的人脸畸变的先验信息，设计特定的结构或损失函数。这种方式通常不能方便地迁移到其他畸变类型。第二种方法是通过设计合适的损失函数，减小类内距离，增大类间距离，得到更具辨别能力的人脸特征。这种方式一般在简单和困难样本上存在明显的性能差异。为了提升人脸识别模型在困难样本上
Deep Learning for Person Re-identification A Survey and Outlook
09-23
深度学习在行人重识别（Person Re-identification，简称Re-ID）中的应用是一个充满挑战且具有广泛应用前景的研究领域。本文将对这一主题进行详尽的概述和展望，旨在为相关研究者提供一个全面的理解和未来的探索方向...
Deep-Person Learning discriminative deep features for person Re-Identification
05-18
这是2020年在Pattern Recognition上发表的一篇行人再识别文章，作者提出一个三分支网络Deep-Person. 来学习高判别力的深度特征。有两个创新点：（1）将人体看作一个从头到脚身体部件的序列，通过LSTM学习各部分之间...
CNN Triplet Loss：CNN Triplet Loss 的实现-matlab开发
05-29
基于文章“FaceNet: A Unified Embedding for Face Recognition and Clustering”Google Inc 2015 当您只想为通用数据库训练 CNN 时需要这样做，而不需要为每组新图片重新训练它。
Bi-directional long short-term memory architecture for person re-identification with modified triplet embedding
02-08
Bi-directional long short-term memory architecture for person re-identification with modified triplet embedding
triplet-loss-pytorch:高效的PyTorch版本的Semi-hard Triplet loss:high_voltage:
03-20
无需使用此实现来创建暹罗体系结构，就像创建main_train_triplet.py cnn创建过程一样简单！对于具有N_CLASSES >> N_SAMPLES_PER_CLASS的分类问题，三元组损失是一个不错的选择。例如，人脸识别问题。 在分类层之前，...
triplets 、triplet Loss和 hard triplets
weixin_40710375的博客
06-19 7785
triplets设左一的图为Anchor（参考点），左二为Negative（反例），右一为Positive（正例），这三张图片构成一个三元组（triplet），其中A和P的欧式距离可能很大，A和N的欧式距离可能很小。triplet Loss什么是Triplet Loss呢？顾名思义，也就是根据三张图片组成的三元组（Triplet）计算而来的损失（Loss）。其中，三元组由Anchor(A),Neg...
Improved Embeddings with Easy Positive Triplet Mining
weixin_44529634的博客
09-09 497
WACV 2020 之前看到很多triplet selection strategy都是基于寻找negative，比如facenet中提出的semi-hard negative（不用hard negative是因为the hardest negative examples leads to bad training behavior）==针对hard negative可以看另外一篇论文：Hard negative examples are hard, but useful. 本文主要是讨论easy posi
深度学习8 keras中triplet network的搭建
a486259的博客
06-15 1488
1、基本库导入 import keras import numpy as np import matplotlib.pyplot as plt import random from keras.datasets import mnist from keras.models import Model from keras import layers from keras.optimizers import RMSprop from keras import backend as K ...
交叉熵损失函数和focal loss_目标检测分类损失函数——Cross entropy、Focal loss
weixin_39517199的博客
11-24 1507
一、Cross Entropy Loss交叉熵是用来判定实际的输出与期望的输出的接近程度，刻画的是实际输出与期望输出的距离，也就是交叉熵的值越小，两个概率分布就越接近。1. CE Loss的定义假设概率分布p为期望输出，概率分布q为实际输出，H(p,q)为交叉熵，则： 当 时，交叉熵取得最小值，因此可以利用交叉熵比较一个分布与另一个分布的吻合情况。交叉熵接近于熵， 便是针对 更好的逼近，事实...
物体检测中的困难样本挖掘(Online Hard Sample Mining)
热门推荐
u010165147的博客
07-25 1万+
对于物体检测问题而言，检测器面对的是整个世界的物体，这些物体里面只有非常少的被标记了具体类别，大量的物体其实并没有类别信息，甚至根本不知道如何标记他的类别，所以面对开集问题，我们要求检测(分类)器要有非常好的排他能力或排除背景类别能力，那么训练数据将会非常重要，为了有这样的能力我们需要切割下大量的背景作为负样本(negative samples)来训练，但是这些背景样本是否足够了？**不管加了多少背景数据，目前都无法从理论上回答这个问题：背景是否足够。** 而事实上不管如果加背景数据训练，模型总能遇
行人再识别：Beyond triplet loss: a deep quadruplet network for person re-identification
Shawn
08-30 2678
摘要 1.设计了一个四元损失函数，相比于三元损失该损失函数可以有效增加类间间距、减小类内间距 2.提出了一种自适应选取hard examples的方法 3.对比分析了不同损失函数之间的关系 损失函数 常用的三元损失： 其中[z]+=max(z,0)，f(xi), f(xj), f(xk)表示三张输入图像的特征。 文中采用了类似于[CVPR2016_Joint learning o...
深度学习8 keras中triplet network里样本对的选择
a486259的博客
04-19 452
1、样本对的选择 def create_batch(x_train,y_train,batch_size=256): x_anchors=[] x_positives=[] x_negatives=[] for i in range(0, batch_size): #随机选择一个样本x random_index = random.randint(0, x_train.shape[0] - 1) x_anchor = x_tr
论文：deep metric learning using triplet network triplet network（Triplet Network）
杨杨子江的博客
10-20 3172
先放着，明天再写！ 论文原址：https://arxiv.org/pdf/1412.6622.pdf
Pytorch-Triplet_loss:
最新发布
04-02
Pytorch-Triplet_loss is a loss function used in deep learning for training models in tasks such as image recognition, object detection, and face recognition. It is designed to learn efficient representations of data by minimizing the distance between similar samples and maximizing the distance between dissimilar samples. The Pytorch-Triplet_loss function takes three input samples: an anchor sample, a positive sample, and a negative sample. The anchor and positive samples are similar, while the negative sample is dissimilar. The loss function computes the distance between the anchor and positive samples, then subtracts the distance between the anchor and negative samples. Finally, the result is passed through a margin parameter that ensures the distance between the anchor and negative samples is larger than the distance between the anchor and positive samples by a certain amount. The Pytorch-Triplet_loss function is widely used in deep learning because it encourages the model to learn features that are invariant to changes in lighting conditions, viewpoint, and other factors that can affect the appearance of an object. By minimizing the distance between similar samples and maximizing the distance between dissimilar samples, the model can learn to recognize objects across a wide range of conditions.

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值