FEW-SHOT LEARNING WITH GRAPH NEURAL NETWORKS
- 初始化节点特征
![](https://img-blog.csdnimg.cn/20201117165240459.png#pic_center)
- 使用领接矩阵,建立节点联系
![](https://img-blog.csdnimg.cn/2020111719072882.png?x-oss-process=image/watermark,type_ZmFuZ3poZW5naGVpdGk,shadow_10,text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3FxXzIxMTU3MDcz,size_16,color_FFFFFF,t_70#pic_center)
- 完成GNN传递
- 图传递完成后,使用Prototypical Networks完成分类
Residual Graph Convolutional Networks for Zero-Shot Learning
解决问题:Graph的over-smoothing与overfitting问题;
解决方式:将Graph扩展为有残差连接的Residual Graph
如何解决zero-shot分类问题:参数预测,半监督
-
将所有类别的语义词向量输入网络中
-
使用K最近临算法将构造语义词向量的连接,也就是图的邻接矩阵
-
使用具有残差连接的图卷积网络卷它
-
计算可见类的权重预测损失,其中M为可见类的类别数, f j f_j fj是在Resnet上训练得到的可见类分类权重, f ~ j \tilde{f}_j f~j是可见类预测分类权重,所以算法应该算是一个半监督算法
Zero-Shot Sketch-Based Image Retrieval via Graph Convolution Network
解决问题:给定unseen-category的素描,要搜索出正确的图片
- Encoding Network使用权重不共享的ResNet50提取图片与素描的特征
- Semantic Preserving Network将图像与素描的特征拼接,得到节点的特征
- 构建节点间的邻接矩阵
(1)计算两节点语义词向量的距离:
(2)将第一步中得到的语义距离,与视觉特征距离的绝对差进行拼接,外接一个MLP
(3)计算两节点的连接权重,其中t为正则项
- Semantic Reconstruction Network使用VAE生成对应的词向量,计算损失(为防止网络记住有限的词向量,所以采用正态分布生成)
损失函数:feature相似损失+分类损失+semantic回归损失+VAE中的KL损失