论文阅读：Learning to Compare: Relation Network for Few-Shot Learning

最新推荐文章于 2022-02-22 21:49:33 发布

csCaiRujia

最新推荐文章于 2022-02-22 21:49:33 发布

阅读量594

点赞数

分类专栏： pytorch few-shot 论文 cv 文章标签：深度学习

本文链接：https://blog.csdn.net/Dream_xd/article/details/105676326

版权

本文介绍了关系网络（Relation Network）在少样本学习中的应用，旨在通过计算查询样本与类样本的关系分数进行分类。论文提出了元学习策略，通过训练和微调模型以适应少量数据的情况，避免过拟合。关系网络包含嵌入模块和关系模块，通过学习到的深度非线性度量方式提高分类性能，并在多个数据集上进行了实验验证。

摘要由CSDN通过智能技术生成

论文：Learning to Compare: Relation Network for Few-Shot Learning
地址：https://arxiv.org/abs/1711.06025v2
代码：https://github.com/floodsung/LearningToCompare_FSL
来源：CVPR 2018

摘要

提出了 relation network，通过计算查询样本与每类样本表示的相关分数来进行分类。

问题

传统的监督学习需要大量的数据，因此数据标注花费成本较高。此外对于某系稀有的类别很难获取数据（比如稀有动物）。但是人们可以根据很少的样本就可以识别。根据人类识别的方式提出了少样本学习或这零样本学习。
少样本学习的目的:是通过少量带有标签的数据识别出新类。对于一个或几个样本，微调的方法也具有挑战性。数据增强、正则化在如此少的数据上也不能解决过拟合问题。目前少样本学习主要是将训练阶段分为辅助的元学习阶段，可以学习到迁移知识，包含好的初始化条件、embedding、和优化策略。然后通过微调来来实现少样本学习。

方法

问题的定义

有三部分的数据：training set，support set 和 testing set。support set和 testing set具有相同的类别标签，trainng set具有自己的类别标签（与support set和 testing set的类别标签不重复）。如果对于support set中C类分别有K个数据，我们就成为C-way K-shot问题。

我们在training set上采用元学习的方式，进行训练。在每一次迭代中，随机抽取C类，每类K个带标签的数据。组成sample set $\{(x_i,y_i)\}^m_{i=1} (m=K \times C)$