[2018][ICLR]FEW-SHOT LEARNING WITH GRAPH NEURAL NETWORKS 论文笔记

最新推荐文章于 2024-08-02 15:43:57 发布
最新推荐文章于 2024-08-02 15:43:57 发布
阅读量2.8k 收藏 14
点赞数 4
文章标签： meta-learning and transfer-lea
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/u010510549/article/details/90372734
版权
这篇博客主要探讨了论文《FEW-SHOT LEARNING WITH GRAPH NEURAL NETWORKS》中的内容，涉及三种设置：少样本学习、半监督学习和主动学习。文章指出，少样本学习的场景是所有数据都有标签，而半监督和主动学习场景部分数据有标签。核心思想是利用有监督样本的标签信息传播到无标签数据上，实现标签信息的推理。数据表示为包含标签和图像特征的图顶点，并通过图卷积网络进行处理。实验流程包括嵌入网络、变换矩阵计算和多次图卷积操作。在主动学习设置中，通过注意力机制选择未标记数据的标签。该方法在后来的工作中效果一般，但作为图神经网络在少样本学习的应用实例，具有参考价值。
摘要由CSDN通过智能技术生成

code https://github.com/vgsatorras/few-shot-gnn.git

paper  https://arxiv.org/pdf/1711.04043.pdf

论文的原理可以直接看论文或者博客，这里主要记录论文中一些含糊的细节

setting

    分为 few-shot setting，semi-supervised setting 和 active learning setting

    few-shot setting 就是数据都是有 label 的，而 semi-supervised setting 就是部分有，部分没有（可以设定每个训练样本，也就是一个图多少个没有label），而active learning setting 也是部分有部分没有，只不过在中间可以询问一个unlabel 数据的真实label（代码这个通过两个卷积层来选择哪个数据）。

但是我觉得这个semi-supervised的setting没有什么意义，因为每次都是从抽取的n_way个类中抽取unlabel数据，真实情况的unlabel你根本不知道哪个类别，怎么知道属于不属于这n_way个类。active learning setting也一样。

基本思想

        目标是将标签信息从有监督样本上传播到的无标签的query数据上。这种信息传递方式可以被规范化为一种图模型预测值到标签值之间的后验

最低0.47元/天 解锁文章
_Cade_
关注
【论文分享】☆ 经典小样本GNN模型：Few-shot Learning With Graph Neural Networks【CNN+相似性度量+GCN】
vector的博客
03-27 2802
本篇文章研究了小样本、半监督和主动学习的图神经网络，并在Omniglot和Mini-Imagenet数据集上进行了实验。该模型 首先使用已训练好的**CNN**模型得到相似图中每一个图像的嵌入特征，**相似性度量**模块学习如何将集合中的嵌入特征组成一个图，**GNN**模块传播已知标签的节点特征到未知标签的节点，训练模型使得到的节点特征与分类器相连后损失最小。
Graph Neural Networks: A Review of Methods and Applications（图神经网络：方法与应用综述）
weixin_41697507的博客
07-06 5360
Graph Neural Networks: A Review of Methods and Applications Jie Zhou , Ganqu Cui , Zhengyan Zhang , Cheng Yang, Zhiyuan Liu, Lifeng Wang, Changcheng Li, Maosong Sun Abstract—Lots of learning tasks req...
《Few-Shot Learning with Graph Neural Networks》——少样本学习与图神经网络
StreamRock的专栏
11-22 7181
目录一、简介二、【2】实现过程分析2.1 数据的准备2.2 GNN 网络2.2.1 特征提取网络2.2.2 顶点表达2.2.3 Adjacency 层2.2.4 Loss的解析2.3 数据验证所说明的问题三、GNN 的认识四、小结索引欢迎使用Markdown编辑器新的改变功能快捷键合理的创建标题，有助于目录的生成如何改变文本的样式插入链接与图片如何插入一段漂亮的代码片生成一个适合你的列表创建一个表...
Few-Shot Learning with Graph Neural Networks笔记
cwhchn的博客
04-22 1589
Few-Shot Learning with Graph Neural Networks 笔记 第一步 输入 T={{(x1,l1),…(xs,ls)},{x~1,…,x~r},{x‾1,…,x‾t};li∈{1,K},xi,x~j,x‾j∼Pl(RN)} \mathcal{T}=\left\{\left\{\left(x_{1}, l_{1}\right), \ldots\left(x_{s}...
【有啥问啥】深度学习任务中的 Zero-shot、One-shot 和 Few-shot 是什么？
最新发布
Chauvin的博客
08-02 1642
Zero-shot、One-shot 和 Few-shot 学习是处理数据稀缺问题的有效策略。在计算机视觉领域，它们为不同的数据场景提供了灵活的解决方案。Zero-shot 学习依赖于语义描述和先验知识，One-shot 学习依赖于度量学习和生成模型，而 Few-shot 学习则利用数据增强和模型正则化技术。通过了解这些方法的原理和应用场景，我们可以更好地设计和优化深度学习模型。
论文阅读笔记《Few-Shot Learning with Graph Neural Networks》
m0_61945533的博客
06-09 455
图卷积神经网络小样本图像分类
Few-Shot Learning with Graph Neural Networks（图神经网络小样本学习）
qq_41180996的博客
10-29 4440
GNN是由许多节点和边构成的图模型，在本文中，每一个节点都代表一幅输入的图像，而每个边上的权重就表示两幅图之间的关系（可以理解为距离或者相似程度）。本文采用的是稠密连接的图，因此每两个输入图片之间都有边连接起来，邻接矩阵就储存了任意两个节点之间的权重值。最后是用于学习的网络，代码中显示是由一个全连接层构成的。然后，将特征向量与表示标签的向量h(l)【独热向量one-hot】级联起来，作为GNN的输入节点，共同输入到GNN中，而邻接矩阵的计算，就会更新两个节点之间的连接权重，因此图模型的结构也发生了变换。
Few-shot Learning with Graph Neural Networks
fnoi2014xtx的博客
07-13 756
Paper : FEW-SHOT LEARNING WITH GRAPH NEURAL NETWORKS Code : official 摘要 作者使用GNN建模少样本学习任务中的消息传递过程，将每个样本看作是图中的节点，少样本学习转化为图中给出部分节点的标签以后进行训练的点分类任务。作者提出的GNN建模方法还可以扩展到半监督学习或主动学习的任务上。 问题设定 首先给出少样本学习，主动学习和半监督学习的通用描述，考虑输入输出对 (T,Y)(\mathcal T,\mathcal Y)(T,Y) T={{.
few-shot learning——图神经网络专题
阿文
07-03 7086
papers:Few-Shot Learning with Graph Neural Networks code: https://github.com/vgsatorras/few-shot-gnn Few-shot learning: few-shot的训练集包含很多类别，每个类别有多个样本，在训练阶段...
【论文清单】小样本学习与图神经网络
vector的博客
03-25 985
本论文清单由知乎作者白小鱼于21年3月31日整理而成，最后更新时间为3月31日
Graph Neural Networks_ A Review of Methods and Applications----清华大学周杰.pdf
09-03
谢谢原作者的
Graph Few-shot learning via Knowledge Transfer
weixin_37936515的博客
09-22 990
Preliminaries 图神经网络 一个图G\mathcal{G}G由其邻接矩阵和节点特征(A,X)(\mathbf{A},\mathbf{X})(A,X)表示，其中A∈{0,1}n×n\mathbf{A} \in\{0,1\}^{n \times n}A∈{0,1}n×n,X={x1,…,xn}∈Rn×h\mathbf{X} = \left\{\mathrm{x}_{1}, \ldots, \mathrm{x}_{n}\right\} \in \mathbb{R}^{n \times h}X={x1​
【论文阅读】Graph Few-shot Learning via Knowledge Transfer
cziun的博客
02-24 739
通过知识迁移的图小样本学习摘要引言 摘要 针对图的半监督学习已经提出了很多的研究方法。GNN作为一个前沿，近年来引起了人们的广泛关注，它通过聚合邻居的信息来更新每个节点的表示。然而，大多数GNN都是通过在一个限定的局部区域内，利用浅层的神经网络进行信息聚合，可能无法达到令人满意的性能，特别是当标签节点的数量相当少时。为了解决这一问题，本文提出了图的小样本学习方法GFL，该方法融合了从辅助图中学习到的先验知识，以提高对目标图的分类精度。具体来说，在辅助图和目标图之间共享一个以节点嵌入和特定图原型嵌入函数为特征
论文笔记:Few-Shot Lear With Graph Neural Networks
u011630472的博客
04-11 1332
论文链接:Few shot learning with graph neural networks github代码链接:pytorch实现 1,INTRODUCTIION 1,元学习(新的监督学习):它的输入-输出对设置由图像集合的iid样本及其相关标签相似性代替了图像的iid样本和它相关标签. 2,探索利用相似样本的分布 代替 利用正则化取弥补数据的不足 3.文章贡献: ...
Graph Few-shot Learning via Knowledge Transfer
VIEO
03-11 470
一：Graph Few-shot Learning via Knowledge Transfer - Yuan Z的文章 - 知乎 https://zhuanlan.zhihu.com/p/163325483 最近看到了arxiv上的一篇论文Graph Few-shot Learning via Knowledge Transfer，今天准备简单的总结一下。 这一篇论文本质上就是Prototypical Network的一个改进。他的改进主要集中在以下三个方面： 在构造每个类的原型向量的时候，引入了P.
Dynamic Few-Shot Visual Learning without Forgetting||论文阅读
VIEO
07-22 776
元学习论文总结||小样本学习论文总结 2017-2019年计算机视觉顶会文章收录 AAAI2017-2019 CVPR2017-2019 ECCV2018 ICCV2017-2019 ICLR2017-2019 NIPS2017-2019 阅读1：https://blog.csdn.net/few_shot/article/details/90048319 阅读2：https:/...
元学习——通过知识迁移的图小样本学习(Graph Few-shot Learning via Knowledge Transfer)
hei653779919的博客
09-24 3218
文献记录—通过知识迁移的图小样本学习 1 摘要 对于图的半监督学习已经提出了很多的研究方法。类似于GNN类方法，通过聚合节点周围节点的信息来更新节点的表示，已经取得了非常不错的效果。但是，大多数的GNN类方法，都是通过在一个限定的局部区域内，利用浅层的神经网络进行信息聚合。当有标签的节点数量很少的时候，这种方法的效果并不是太好。为了缓解这个问题，我们的一个创新点是提出了一个图的小样本学习方法GFL，包括了从辅助图中学习的先验知识来提高分类的效果。具体的，一个可迁移的度量空间可以通过一个节点的编码来表示，并且
【Few-Shot Segmentation论文笔记】CANet, IAAA, 2019
Raymond_Love的博客
01-14 1261
Abstract 本文研究的问题： Few-shot Segmentation 致力于应对标注数据获取困难，且耗时耗力的问题和场景 同类别的个体外观也会有很大差异，如何挖掘这些同一类别对象的共享特征，也是一个难点。 主要工作： 本文提出了CANet（Class-Agnostic Segmentation Network），其主要贡献在于以下几点： 本文提出了一个新颖的Two-branch dense comparison module (DCM)，能够有效的利用来自CNN的...
adaptive universal generalized pagerank graph neural network(iclr2021)
08-01
《自适应通用广义PageRank图神经网络》是在ICLR2021中发布的一篇论文。这篇论文提出了一种新的图神经网络模型，称为自适应通用广义PageRank图神经网络。 传统的图神经网络通常使用节点和边的特征来进行节点分类和...
评论 8
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值