【阅读笔记】Fuzzy Graph Neural Network for Few-Shot Learning

核心思想

以往的基于图神经网络的小样本学习方法在构建邻接矩阵时，要么通过神经网络计算、要么通过欧式距离计算。然而，这种做法有一个弊端，就是节点之间都有边相连，在图传播的过程中会造成噪声的传播。因此，本文通过对邻接矩阵进行阈值处理，降低噪声的传播。

方法

如图 1 所示，模型由三部分组成：预训练的特征提取器、关系编码器和 GNN 分类器。关系编码器和分类器是 GNN。首先，在大规模数据上用一个临时分类器训练特征提取器。在元学习阶段，设计了一个隶属度函数来生成隶属度（对邻接矩阵进行阈值处理），它为 GNN 分类器的图形提供了强大的归纳偏差。

1、特征提取

采用预训练的 ResNet-12 来增强特征提取器的能力，使用优化特征提取器θ和分类器𝜃′如下：

在学习了特征提取器 Θ 之后，它仍然会在元学习阶段以较小的学习率进行优化。

2、关系编码器

在边缘预测中，从特征提取器中提取的特征是节点的初始特征。在第 l 层关系编码器中，边缘特征首先由边缘更新函数更新，输入是边缘两端节点的特征：

然后节点特征由节点更新函数更新，

关系编码器 φ 将在任务 T 结束时通过损失 𝐿′ 进行优化，

3、隶属度函数

4、GNN分类器

通过隶属函数对 E 进行变换后，将成为 GNN 分类器 θ 的图的邻接矩阵 A。与之前的工作不同，这个相邻矩阵是稀疏的，并且为图提供了关系归纳偏差。

在使用以下经验损失优化整个模型之前，为每个任务 T 优化 GNN 分类器 θ：

将 Tq 定义为从 T 中采样的查询集 Q，并将 Yq 定义为查询集 Q 的标签。然后，考虑在节点 * 处为所有参数评估的交叉熵损失：

5、算法流程