小样本中的图神经网络

FEW-SHOT LEARNING WITH GRAPH NEURAL NETWORKS

  1. 初始化节点特征
将图片的视觉特征与类别标签拼接,对于查询集,类别标签初始化为零
  1. 使用领接矩阵,建立节点联系
  1. 完成GNN传递
    在这里插入图片描述
  2. 图传递完成后,使用Prototypical Networks完成分类

Residual Graph Convolutional Networks for Zero-Shot Learning

解决问题:Graph的over-smoothing与overfitting问题;
解决方式:将Graph扩展为有残差连接的Residual Graph
如何解决zero-shot分类问题:参数预测,半监督
在这里插入图片描述

  1. 将所有类别的语义词向量输入网络中

  2. 使用K最近临算法将构造语义词向量的连接,也就是图的邻接矩阵

  3. 使用具有残差连接的图卷积网络卷它
    在这里插入图片描述
    在这里插入图片描述

  4. 计算可见类的权重预测损失,其中M为可见类的类别数, f j f_j fj是在Resnet上训练得到的可见类分类权重, f ~ j \tilde{f}_j f~j是可见类预测分类权重,所以算法应该算是一个半监督算法
    在这里插入图片描述

Zero-Shot Sketch-Based Image Retrieval via Graph Convolution Network

解决问题:给定unseen-category的素描,要搜索出正确的图片

在这里插入图片描述

  1. Encoding Network使用权重不共享的ResNet50提取图片与素描的特征
  2. Semantic Preserving Network将图像与素描的特征拼接,得到节点的特征
  3. 构建节点间的邻接矩阵
    (1)计算两节点语义词向量的距离:在这里插入图片描述
    (2)将第一步中得到的语义距离,与视觉特征距离的绝对差进行拼接,外接一个MLP
    在这里插入图片描述
    (3)计算两节点的连接权重,其中t为正则项
    在这里插入图片描述
  4. Semantic Reconstruction Network使用VAE生成对应的词向量,计算损失(为防止网络记住有限的词向量,所以采用正态分布生成)

损失函数:feature相似损失+分类损失+semantic回归损失+VAE中的KL损失在这里插入图片描述

  • 2
    点赞
  • 15
    收藏
    觉得还不错? 一键收藏
  • 3
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 3
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值