【Datawhale图机器学习】图神经网络

图神经网络(GNN)是一种能处理图结构数据的模型,它通过节点间的信息传递获取图的依存关系。与传统神经网络不同,GNN不依赖节点顺序,能处理无序的图结构,并通过邻居节点的加权求和更新节点状态。GNN适用于图的推理任务,且可以进行特征和结构扩增。深度图编码器和多层GNN用于复杂图表示学习,但层数过深可能导致所有节点嵌入相同。优化目标通常涉及最大化预测准确率。
摘要由CSDN通过智能技术生成

图神经网络

GNN是一种连接模型,通过网络中节点之间的信息传递的方式来获取图中的依存关系,GNN通过从节点任意深度的邻居来更新该节点状态,这个状态能够表示状态信息。第一次在论文 The graph neural network model 中提出

与传统NN的区别(GNN优点)

  1. 节点
    CNN和RNN等都需要节点的特征按照一定的顺序进行排列
    但对于图结构,并没有天然的顺序。所以,GNN采用*在每个节点上分别传播(propagate)*的方式进行学习,由此忽略了节点的顺序,相当于GNN的输出会随着输入的不同而不同。
  2. 边(图结构的边表示节点之间的依存关系)
    传统的神经网络不是显式地表达中这种依存关系,而是通过不同节点特征来间接地表达节点之间的关系,这些依赖信息只是作为节点的特征。
    GNN 可以通过图形结构进行传播,而不是将其作为节点特征的一部分,通过邻居节点的加权求和来更新节点的隐藏状态
  3. 推理
    推理是高级人工智能的一个非常重要的研究课题,人脑中的推理过程几乎都是基于从日常经验中提取的图形。标准神经网络已经显示出通过学习数据分布来生成合成图像和文档的能力,同时它们仍然无法从大型实验数据中学习推理图。然而,GNN 探索从场景图片和故事文档等非结构性数据生成图形,这可以成为进一步高级 AI 的强大神经模型。

深度图编码器

在这里插入图片描述

通用GNN网络

在这里插入图片描述

  1. GNN 层 = 消息 + 聚合
  2. 将GNN层连接到GNN
  3. 原始输入图≠计算图
    Graph feature augmentation 特征扩增
    Graph structure augmentation 机构扩增

在这里插入图片描述

通用GNN模板

在这里插入图片描述
GNN层数不能过深
所有节点的Embedding相同
GNN层的内部可以加深度神经网络

样本之间独立同分布
随机时间“所有样本都被正确预测”发生的概率P=0.60.30.7
P越大->预测结果越好->算法模型越好
优化目标:更新算法模型参数使得P最大化,极大似然估计
最大化P<->最大化P取对数logP=log0.6+log0.3+log0.7<->最小化负对数-log0.6-log0.3-log0.7

参考资料

图神经网络(GNN)模型原理及应用综述:https://blog.csdn.net/weixin_45884316/article/details/115751272
图神经网络(Graph Neural Networks,GNN)综述
:https://zhuanlan.zhihu.com/p/75307407

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值