Finding Task-Relevant Features for Few-Shot Learning by Category Traversal阅读笔记

摘要：

       样本少难训练。近期度量学习（query和support相似性）比较成功。但是这种方法有一个缺点，就是query在与支持集中的样本进行比较时，是一个类一个类的进行比较的，也就是query与支持集中某个类的样本比较完，再与另一个类进行比较，没有考虑整体的关系。这样造成的后果是，不能辨别哪个维度的特征与当前任务是最相关的。

       解决思路：使用类别遍历模块，一次遍历整个supportset，根据特性空间中的类内公共性和类间惟一性识别与任务相关的特性。

介绍：

本论文有效的扩展了基于度量学习的方法。将整个supportSet视为一个整体。寻找与每个任务最相关的维度特征。

上图a，supportset 5个类别，query img 的距离和1345相同，颜色更接近于3.上图b，在k-shot (k > 1)情况下，一个类中的大多数实例共享蓝色属性，但它们的形状不同-使颜色特征更具代表性。

假设query img 是一个绿色的圆圈，因为supportset中每个示例都有唯一的颜色，形状是共享的，所以这个任务的相关特征是颜色。因此正确的标签是3 green。然而，如果每个类的特征相似度是独立计算的，就像[38,35,36,34,21,30,23,10]中所做的那样，不可能知道哪个维度(颜色或形状)更相关，因此类别(i, iii, iv, v)基于距离1都有相同的分数

问题：如果神经网络学习颜色是唯一的，形状是共享的特征，那么在颜色是共享的形状唯一的情况下失效。可以使用类内唯一和类内不同性来寻找适合的特征。

使用类别遍历模块（CTM）来处理类内唯一和共同 特征。

CTM：

​​​​​​​

支持集特征fθ(S)作为输入，并通过分别使用类内视图和类间视图的集中器（concentrator）和映射器（projector）产生掩码p。掩码p应用于支持和查询的降维特征，生成与当前任务相关的维度的改进特征I。这些改进的特征嵌入最后被输入到度量学习器中。

集中器：类内共性

       查找supportset中每个类共享的通用特性。将特征提取器fθ的输出形状表示为(N K, m1, d1, d1)，其中m1, d1分别表示通道数和空间大小。

NK表示N个类别，K个样本。m1表示特征图的通道数，d1表示特征图的尺寸，经过聚集器，对每个类别的样本特征图取均值。这一过程是为了去掉各个实例之间的差异，并提取每个类别的共有特征。本质上是通过卷积进行通道上的降维，优于平均操作。

映射器：类别间的独特性

第二个组件是一个投影仪，用于掩盖不相关的特征，并通过查看集中器特征来选择当前少数镜头任务中最具鉴别性的特征

;M3、d3含义与集中器中相同。我们实现目标的遍历类通过连接类原型在第一维度(N)频道维度(m2),应用小CNN连接特性产生的地图大小(1立方米d3, d3),最后应用softmax在频道维度m3(分别为每个应用d3×d3空间维度)产生一个面具p。这是用来掩盖相关功能维度查询和支持任务的集合。