论文笔记:Few-Shot Lear With Graph Neural Networks

最新推荐文章于 2023-05-30 17:36:17 发布
最新推荐文章于 2023-05-30 17:36:17 发布
阅读量1.3k 收藏 2
点赞数 2
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/u011630472/article/details/89203152
版权
本文探讨了如何使用图神经网络（GNN）解决小样本学习问题。通过构建图像和标签的图模型，GNN实现了监督信息从有标签样本到无标签样本的传播。在Omniglot和MiniImageNet任务中，该模型展示了优越的性能，并且能够扩展到半监督和主动学习场景。文章详细介绍了模型结构，包括输入表示、GNN层的定义以及初始节点特征的构造。
摘要由CSDN通过智能技术生成

论文链接:Few shot learning with graph neural networks

github代码链接:pytorch实现

1,INTRODUCTIION

1,元学习(新的监督学习):它的输入-输出对设置由图像集合的iid样本及其相关标签相似性代替了图像的iid样本和它相关标签.

2,探索利用相似样本的分布 代替 利用正则化取弥补数据的不足

3.文章贡献:

             1,将few-shot learning作为有监督消息传递任务,并且它用图神经网络进行端到端的训练

             2,在Omniglot和MIniImagnet 任务中,用更少的参数实现了最优的性能

             3.将这个模型扩展到半监督学习和主动学习机制中

3,problem set-up

  描述通用的设置和标注,然后把它分别应用到few-shot learning, semi-supervised ,active learning

考虑输入-输出对(Ti,Yi)i,从部分标记图像集的分布P中描述iid.

​

     其中s是已标记样本的数量, r是未标记的样本数量(r>0 用于semi-supervised 和active learn

最低0.47元/天 解锁文章
大白成长记
关注
A Comprehensive Survey on Graph Neural Networks(图神经网络综合研究)
weixin_41697507的博客
07-06 7387
A Comprehensive Survey on Graph Neural Networks Zonghan Wu, Shirui Pan, Member, IEEE, Fengwen Chen, Guodong Long, Chengqi Zhang, Senior Member, IEEE, Philip S. Yu, Fellow, IEEE Abstract—Deep learning ...
HOW POWERFUL ARE GRAPH NEURAL NETWORKS?
weixin_41697507的博客
07-06 3292
HOW POWERFUL ARE GRAPH NEURAL NETWORKS? ABSTRACT Graph Neural Networks (GNNs) are an effective framework for representation learning of graphs. GNNs follow a neighborhood aggregation scheme, where the...
论文阅读笔记《Few-Shot Learning with Graph Neural Networks》
深视
05-21 3202
核心思想   本文提出一种采用图神经网络（Graph Neural Network，GNN）的小样本学习算法，将距离度量由欧式空间转移到非欧空间中，其核心思想还是将有标签支持样例的标签信息传递到无标签的查询样例上去，这种信息的传递可以看做一个图模型根据输入的图像和标签给出的后验推断。那么具体是如何实现的呢？首先，作者将输入数据集划分为三部分 其中(x1...xs)(x_1...x_s)(x1​...xs​)表示带有标签的支持集，(x~1...x~r)(\tilde{x}_1...\tilde{x}_r)(
FEW-SHOT LEARNING WITH GRAPH NEURAL NETWORK
weixin_44576543的博客
11-16 628
FEW-SHOT LEARNING WITH GRAPH NEURAL NETWORK使用图神经网络的小样本学习 代码：github.com/vgsatorras/few-shot-gnn 摘要：我们提出研究一种基于部分观察图形模型的三棱镜推理的小样本学习问题，建立一组图片（标记或者不标记），通过同化消息传递推理算法使用深度学习框架，定义了可以泛化的小样本学习图神经网络框架，我们的框架很...
Few-Shot Learning With Graph Neural Networks
VIEO
03-11 411
https://zhuanlan.zhihu.com/p/67745489 在 Few-Shot Learning 中，每个类别的训练样本数据较少，如果直接训练一个多分类模型，会由于每个类别的样本较少而无法训练充分。而 GNN 的一个优点在于可以通过节点之间的连接来做信息扩散，如果把每个样本视作图中一个节点，节点之间的边是它们的某种距离度量，那么，就可以把已有label的样本的 label 信息根据节点之间相似性的强弱，有选择的扩散到与之最相似的，需要预测的样本上。这样，新样本在预测的时候，可以利用到各个
Few-shot Learning with Graph Neural Networks
fnoi2014xtx的博客
07-13 756
Paper : FEW-SHOT LEARNING WITH GRAPH NEURAL NETWORKS Code : official 摘要 作者使用GNN建模少样本学习任务中的消息传递过程，将每个样本看作是图中的节点，少样本学习转化为图中给出部分节点的标签以后进行训练的点分类任务。作者提出的GNN建模方法还可以扩展到半监督学习或主动学习的任务上。 问题设定 首先给出少样本学习，主动学习和半监督学习的通用描述，考虑输入输出对 (T,Y)(\mathcal T,\mathcal Y)(T,Y) T={{.
《Few-Shot Learning with Graph Neural Networks》——少样本学习与图神经网络
StreamRock的专栏
11-22 7182
目录一、简介二、【2】实现过程分析2.1 数据的准备2.2 GNN 网络2.2.1 特征提取网络2.2.2 顶点表达2.2.3 Adjacency 层2.2.4 Loss的解析2.3 数据验证所说明的问题三、GNN 的认识四、小结索引欢迎使用Markdown编辑器新的改变功能快捷键合理的创建标题，有助于目录的生成如何改变文本的样式插入链接与图片如何插入一段漂亮的代码片生成一个适合你的列表创建一个表...
Few-Shot Learning with Graph Neural Networks
燎明的专栏
02-28 7013
2 Related Workmeta-learners方式： 典型代表是, Mishra et al. (2017) used Temporal Convolutions which are deep recurrent networks based on dilated convolutions(扩张卷积), this method also exploits contextual inform...
COSTA: Covariance-Preserving FeatureAugmentation for Graph Contrastive Learning
最新发布
zhao254014的博客
05-30 596
定量和定性地分析了当前 GCL 方法的拓扑图扩充所产生的问题，并且已经证明这种策略存在偏差问题。为了克服这种偏见，提出了特征增强框架 COSTA。
FewShotDetection:（ECCV 2020）PyTorch实施的论文“野外物体的少量目标检测和视点估计”
05-22
少量物体检测 （ECCV 2020）PyTorch实施的论文“野外物体的少量目标检测和视点估计” 如果我们的项目对您的研究有所帮助，请考虑引用： @INPROCEEDINGS{Xiao2020FSDetView, author = {Yang Xiao and Renaud Marlet}, title = {Few-Shot Object Detection and Viewpoint Estimation for Objects in the Wild}, booktitle = {European Conference on Computer Vision (ECCV)}, year = {2020}} 变更日志 [2020年12月15日]在download_models.sh中download_models.sh的CO
程序员为什么还要刷题-intro-to-tdd-rspec-and-learn-missionu-000:tdd-rspec-and-lear
07-07
程序员常刷题TDD、RSpec 和 Learn 介绍 目标 定义代码测试的目的。 阅读 RSpec 测试。...通过learn命令运行测试。...背后的基本思想是，在开始编码之前，您应该考虑您希望程序做什么以及您希望代码如何运行。...
Few-Shot Learning with Graph Neural Networks（图神经网络小样本学习）
qq_41180996的博客
10-29 4445
GNN是由许多节点和边构成的图模型，在本文中，每一个节点都代表一幅输入的图像，而每个边上的权重就表示两幅图之间的关系（可以理解为距离或者相似程度）。本文采用的是稠密连接的图，因此每两个输入图片之间都有边连接起来，邻接矩阵就储存了任意两个节点之间的权重值。最后是用于学习的网络，代码中显示是由一个全连接层构成的。然后，将特征向量与表示标签的向量h(l)【独热向量one-hot】级联起来，作为GNN的输入节点，共同输入到GNN中，而邻接矩阵的计算，就会更新两个节点之间的连接权重，因此图模型的结构也发生了变换。
《Few-Shot Learning with Graph Neural Networks》代码理解
F_aF_a的博客
08-12 1717
代码使用omniglotomniglotomniglot数据集，以5way−1shot5way-1shot5way−1shot为例，一个episodeepisodeepisode只有一张queryqueryquery，一个batchbatchbatch中有300300300个episodeepisodeepisode 文章目录数据训练metric_nnWcomputeGconvgmul流程图 在main.py中的第144行开始训练的迭代 数据 首先加载数据 # main.py line149 data =
FEW-SHOT LEARNING WITH GRAPH NEURAL NETWORKS 论文笔记
m0_38031488的博客
03-18 7841
论文链接：FEW-SHOT LEARNING WITH GRAPH NEURAL NETWORKS Idea: Few-shot 学习不依靠于规则化扩展数据集来补偿缺少有监督数据对模型带来的影响，而是受启发与人类学习去探索相似任务在空间上的分布情况。 GNN网络实际是CNN网络在非欧几里得空间上的扩展。 Problem Set-up 以下的定义可以应用于semi-supervis...
Few-Shot Learning with Graph Neural Networks笔记
cwhchn的博客
04-22 1589
Few-Shot Learning with Graph Neural Networks 笔记 第一步 输入 T={{(x1,l1),…(xs,ls)},{x~1,…,x~r},{x‾1,…,x‾t};li∈{1,K},xi,x~j,x‾j∼Pl(RN)} \mathcal{T}=\left\{\left\{\left(x_{1}, l_{1}\right), \ldots\left(x_{s}...
FEW-SHOT LEARNING WITH GRAPH NEURAL NETWORKS翻译
L793404933的博客
12-08 1136
基于GNN的小样本学习 简介： 我们提出利用基于推理的图模型来研究小样本学习问题，输入图像有标签或者隐藏标签。通过使用消息传播算法，我们定义了一种图神经网络来概述最近提出的几种小样本学习的模型。除了提高数值性能之外，我们的框架还可以轻松扩展到少数学习的变体，例如半监督学习或主动学习，这证明了基于图的模型能够很好地处理“关系”任务。 介绍: 监督端到端学习是在CV,speech,机器翻译任务中是非常...
学习论文 "Edge-Labeling Graph Neural Network for Few-shot Learning"笔记
いいこと？暁の磕盐线に胜利を刻みなさいっ！
02-17 892
个人笔记对模型数学上的解读部分很大程度上受到这篇博客的启发与参考 Notation T=S∪QT=S \cup QT=S∪Q,support set and query set, support set SSS in each episode serves as the labeled training set xix_ixi​ and yi∈{C1,...,CN}=CT⊂Cy_i \in \{C...
评论 2
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值