few-shot NER 数据集 和普通NER数据集的区别与联系

相信许多同学在阅读Few-shot NER相关文献时都有点迷糊，support set是什么，怎么参与模型训练的，又是怎么采样的呢。下面主要介绍一下这些问题：

1.1few-shot NER        

        few-shot NER任务主要处理NER任务中的两种场景，第一种是数据集中某些类别的标记样本远少于出现频率高的类别的标记样本，比如在某个数据集中，被标记为类别A的token有10000个，被标记为B的token只有2个。在这种情况下通常训练出来的模型对dev集中标签为B的token预测出来的准确率会比较低；第二种是处理dev集中出现了train中没有的类别标签。

        few-shot=K通常设置K为1-shot或5-shot来进行实验，具体的含义就是每个类别含有1个/5个实例。放在NER任务中，例如，人名这个实体总共有5个实例。需要遵循few-shot=k设置的是support集，train集和test集中每个类别的实例都可远多于K类。

        为什么train集可以不用遵循few-shot=k的设置呢，因为在few-shot learning中train集一般是用来参与encoder训练token embedding的。训练few-shot模型的思想，拿原型模型举例，是将token表示为向量空间中的向量，为需要预测类别的token x寻找与它距离最近的（由support集的token计算获得的，比如最简单的就是将所有support集中类别为A的向量加起来取平均得到的）原型，将原型所属的类别赋给token x。train集是用来将token表示为向量的，不参与原型的构建。

2.2数据集划分

普通的大规模公开数据集通常划分为train set、dev set、test set。

few-shot 数据集通常划分为train set、support set 、test set

在train阶段利用到的数据集为：train set

在infer阶段利用到的数据集为：support set、test set

（test set 样本的真实标签一定要在support set 里找得到）

举个例子，如果train集里面完全没有出现样本X的标签Z，但是我希望能出预测样本X的标签。那我可以在support中放一个样本Y，这个样本的标签是Z，然后样本X和Y很像，模型就能够把样本X预测为Z。