三行代码解决长尾不平衡类别分类！间隔校准算法Margin Calibration来了！

点击下方卡片，关注“CVer”公众号

AI/CV重磅干货，第一时间送达

点击进入—> CV 微信技术交流群

本文转载自：王晋东不在家

长尾视觉识别任务对神经网络如何处理头部（常见）和尾部（罕见）类之间的不平衡预测提出了巨大挑战。模型倾向于将尾部类分类为头部类。虽然现有的研究侧重于数据重采样和损失函数工程，但在本文中，我们采用了不同的视角：分类间隔。我们研究了间隔（margin）和预测分数（logit）之间的关系，并凭经验观察到「未校准的边距和预测分数呈正相关」。我们提出了一种「简单而有效的边距校准方法 (Margin Calibration，MARC) 来校准边距以获得更平衡的预测分数」，从而提升分类性能。我们通过对常见长尾基准（包括 CIFAR-LT、ImageNet-LT、Places-LT 和 iNaturalist-LT）的广泛实验来验证MARC。实验结果表明，我们的MARC方法在这些基准上取得了良好的结果。此外，「只需三行代码」 就能实现MARC。我们希望这种简单的方法能够激发人们重新思考长尾视觉识别中未校准的边距与预测分数之间的关系。

文章已被机器学习会议ACML 2022录用, 由东京工业大学、微软STCA、南京大学、及微软亚洲研究院共同完成，第一作者为东京工业大学王一栋同学。

论文：https://arxiv.org/abs/2112.07225

间隔与预测分数的关系

在本文中，我们研究了 「间隔(Margin)」 和 「预测分数 (logits)」 之间的关系，这是主导长尾绩效的关键因素。

如下图所示，我们凭经验发现边距和预测分数与每个类的基数相关（一个类的基数即该类别拥有数据的数量）。具体来说，在校准之前，头类往往比尾类具有更大的边距和预测分数。因此，需要校准这种不平衡的边距以获得平衡的预测分数去避免未校准的边距对分类性能产生负面影响。

间隔校准方法MARC: Margin Calibration

我们提出一个简单的间隔校准方法 「MARC (margin calibration)」 来解决长尾问题。

具体而言，我们训练了一个简单的特定于类别的边距校准模型，其中原始边距固定， 和 是可学习参数：

的推理公式如下，最终是由预测分数（logit=）除以线性分类器（Linear Classifier Head）的权重（Weight）的模（）取得,其中为线性分类器的偏差（bias）：

因此，校准后的预测分数为

其中是固定的原始预测分数。

此外，我们还对不同类进行加权操作，最终通过训练 和 来获得更平衡的预测分数。

核心算法：仅需三行代码

MARC可以被分类为决策边界（间隔）调整算法，其与之前的一些同类算法如Decouple (ICLR'20, 评论区提到的)和DisAlign等的区别如下：

MARC的核心算法如下图所示，核心部分如红框所示。「仅需三行代码」 即可实现MARC：

实验

分类结果

实验表格如下。我们在众多被广泛使用的长尾分类图像数据集中进行了对比。从实验结果可以看出MARC相比于其他方法取得了良好的性能，并且MARC十分容易实现。

复杂度

下图是MARC和另一个决策边界调整算法Dis-Align的对比试验，可以发现MARC取得了更平衡的边距和预测分数。

总结

本文研究了长尾视觉识别问题。具体来说，我们发现头类往往比尾类具有更大的边距和预测分数。受此发现的启发，我们提出了一个只有 2K（K是类别数）可学习参数的边距校准函数，以获得长尾视觉识别中的平衡预测分数。尽管我们的方法实现起来非常简单，但大量实验表明，与以前的方法相比，MARC在不改变模型表示的情况下取得了有利的结果。我们希望我们对预测分数和边距的研究能够为模型表示和边距校准的联合优化提供经验。未来，我们的目标是发展一个统一的理论来更好地支持我们的算法设计，并将该算法应用于更多的长尾应用。

Reference

[1] 本文所介绍的论文：Wang et al. Margin calibration for long-tailed visual recognition. Asian Conference on Machine Learning (ACML) 2022.

点击进入—> CV 微信技术交流群

CVPR/ECCV 2022论文和代码下载

后台回复：CVPR2022，即可下载CVPR 2022论文和代码开源的论文合集

后台回复：ECCV2022，即可下载CVPR 2022论文和代码开源的论文合集

后台回复：Transformer综述，即可下载最新的3篇Transformer综述PDF

目标检测和Transformer交流群成立
扫描下方二维码，或者添加微信：CVer222，即可添加CVer小助手微信，便可申请加入CVer-目标检测或者Transformer 微信交流群。另外其他垂直方向已涵盖：目标检测、图像分割、目标跟踪、人脸检测&识别、OCR、姿态估计、超分辨率、SLAM、医疗影像、Re-ID、GAN、NAS、深度估计、自动驾驶、强化学习、车道线检测、模型剪枝&压缩、去噪、去雾、去雨、风格迁移、遥感图像、行为识别、视频理解、图像融合、图像检索、论文投稿&交流、PyTorch、TensorFlow和Transformer等。
一定要备注：研究方向+地点+学校/公司+昵称（如目标检测或者Transformer+上海+上交+卡卡），根据格式备注，可更快被通过且邀请进群

▲扫码或加微信号: CVer222，进交流群
CVer学术交流群（知识星球）来了！想要了解最新最快最好的CV/DL/ML论文速递、优质开源项目、学习教程和实战训练等资料，欢迎扫描下方二维码，加入CVer学术交流群，已汇集数千人！

▲扫码进群
▲点击上方卡片，关注CVer公众号

整理不易，请点赞和在看