【学习笔记】GNN - Task2

最新推荐文章于 2024-11-02 12:01:35 发布
最新推荐文章于 2024-11-02 12:01:35 发布
阅读量189 收藏
点赞数
文章标签： 神经网络
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/ytwanzi/article/details/117986148
版权
本文详细介绍了图神经网络中的消息传递范式，包括节点嵌入、PyG中的MessagePassing基类及其GCNConv子类的实现。重点讲解了GCNConv的数学定义和消息传递的五个关键步骤，以及如何利用MessagePassing基类构建图神经网络。同时，给出了基于MessagePassing的作业，要求总结运行流程并复现一层图神经网络。
摘要由CSDN通过智能技术生成

GNN图神经网络入门 - Task2

消息传递

1.消息传递（Message Passing）范式

在这里插入图片描述

  • 节点嵌入（Node Embedding）- 神经网络的生成节点表征的操作

2.MessagePassing类

Pytorch Geometric(PyG)提供了MessagePassing基类，它封装了“消息传递”的运行流程。

3.GCNConv子类

GCNConv的数学定义为 x i ( k ) = ∑ j ∈ N ( i ) ∪ i 1 deg ⁡ ( i ) ⋅ deg ⁡ ( j ) ⋅ ( Θ ⋅ x j ( k − 1 ) ) , \mathbf{x}i^{(k)} = \sum{j \in \mathcal{N}(i) \cup { i }} \frac{1}{\sqrt{\deg(i)} \cdot \sqrt{\deg(j)}} \cdot \left( \mathbf{\Theta} \cdot \mathbf{x}_j^{(k-1)} \right), xi(k)=∑j∈N(i)∪ideg(i) ​⋅deg(j)

最低0.47元/天 解锁文章
kerenleii
关注
MessagePassing
mfccc的博客
06-16 1158
1.相关包导入 import os import re import inspect import os.path as osp from uuid import uuid1 from itertools import chain from inspect import Parameter from typing import List, Optional, Set from torch_geometric.typing import Adj, Size import torch from torch i
【学习笔记】GNN - Task1
ytwanzi的博客
06-15 182
GNN图神经网络入门 - Task11. 基础知识2.机器学习任务3.图数据神经网络难点4.PyTorch Geometric (PyG)5.练习 1. 基础知识 定义：图(G)定义为(V,E) ，记为G=(V,E) 。其中： V是顶点(Vertex)的非空有限集合，记为V(G)；E是无序集V&V的一个子集，记为E(G) 。 i.类别型的标签（label） ii.数值型的（numeric）属性（attribute） 图的种类 1）有向图&无向图 - 边是否有方向 2）非加权图&am
图神经网络(GNN)系列
喜欢打酱油的老鸟
02-14 3083
https://www.toutiao.com/a6657069801371861518/   2019-02-12 19:10:46 真实世界中，许多重要的数据集都是以图或者网络的形式存在的，比如社交网络，知识图谱，蛋白质相互作用网，世界贸易网等等。然而，迄今为止，却很少有人关注并且尝试将神经网络一般化后应用在这样的数据集上，而现在深度学习在人工智能领域大形其道，如果能够将神经网络和图分析...
Task02：消息传递图神经网络
m0_46306014的博客
06-19 608
Task02：消息传递图神经网络 一、MPNN 消息传递神经网络（Message Passing Neural Network，MPNN）首次提出于《Neural Message Passing for Quantum Chemistry》，在量子化学性质预测的任务中取得了不错的成绩，相关介绍可以见阿泽的学习笔记写的一篇文章。 MPNN框架： MPNN主要包括两个阶段：消息传递阶段（Message Passing）、读出阶段（Readout），这里介绍消息传递阶段。 xi(k)=γ(k)(xi(k−1),□
【学习笔记】GNN - Task3
ytwanzi的博客
06-23 171
GNN图神经网络入门 - Task3节点表征学习节点预测与边预测作业相关阅读 节点表征学习 参见基于图神经网络的节点表征学习 节点预测与边预测 参见节点预测与边预测任务实践 作业 1.使用PyG中不同的图卷积模块在PyG的不同数据集上实现节点分类或回归任务。 1）读取数据 ## 读取“CiteSeer” 数据集数据 from torch_geometric.datasets import Planetoid from torch_geometric.transforms import Normalize
香侬科技GNN-LM：基于全局信息的图神经网络语义理解模型笔记
ResumeProject的博客
02-26 960
        基于图神经网络的语义理解模型的GNN-LM，它将传统的NLP的闭卷模式，转变为开卷模式：在推理过程中允许参考训练数据。 输入的样例为query 首先在训练数据中通过K近邻（KNN）寻找相似的样例为邻居。 通过图神经网络GNN建立输入样例与邻居的关系。 【AI Drive】第104期 - 香侬科技孟昱先：GNN-LM 从“闭卷考试”到“开卷考试” ...
Graph Neural Networks(GNN)学习笔记
Karen_Yu_的博客
04-28 966
edgesnodes).图是表现实体（顶点）之间的一些关系（边）顶点可以用embedding（就是一条向量）来表示其中的一些属性边也可以用embedding来表示，边的长度（指向量的长度）可以和顶点的长度不一样全局的信息也可以用embedding来表示（长度也可以不一样）核心->如何把我们想要的信息，表示成这些向量，以及这些向量是否能通过数据来学到有向图&无向图。
Datawhale GNN 组队学习-Task04
akachanmama的博客
06-27 342
节点预测与边预测 先贴一下一篇ICLR2021关于GNN预测过程的论文的详细笔记。 图数据的天然优势是为学习算法提供了丰富的结构化信息，节点之间邻接关系的设计成为了重要的先验信息和交互约束。然而，有一部分边上的消息是可以忽略的，论文首先提出方法在不影响模型预测效果的情况下，将图结构中冗余的边drop掉。通过分析剩余边上具有怎样的先验知识，实现对GNN的预测过程加以解释。 0. AbstractGNN 能够将结构归纳偏置（structural inductive biases） 整合到 NLP 模型中。然而
Datawhale GNN组队学习-Task 03
akachanmama的博客
06-23 344
基于图神经网络的节点表征学习 经典论文笔记（GCN MoNet ChebNet GraphSAGE) Semi-Supervised Classification with Graph Convolutional Networks(GCN) 这篇文章提出了一种图卷积网络（GCN），该网络可以直接用于处理图结构数据。从本质上讲，GCN 是谱图卷积（spectral graph convolution） 的局部一阶近似（localized first-order approximation）。GCN的另一个
科研笔记----七月总结
hust_zhengT的博客
08-01 584
六月四号是正式开始科研的第一天，刚开始科研，脑袋一片空白，老师也没有跟我交代太多，就让我看了一篇multimodal的综述文章，然后写一篇report交给他。由于疫情的原因，这篇综述看了几个月，然而也并没有看出什么有价值东西。科研的起步阶段是很枯燥的，而且很可能花了不少时间却义务所获，所以学会正确的方式是很重要的。 之后在知乎上看到了一篇经验贴，是曼大的一位计算机专业在读博士的经验分享贴（https://www.zhihu.com/question/21278186/answer/724440797？utm
自监督强化学习：对比预测编码（CPC）算法深度解析
hai40587的博客
11-01 885
自监督强化学习是一种结合自监督学习与强化学习优势的新兴方法。它利用数据的内在结构生成监督信号，从而减少对外部标签的依赖，使智能体能够在无标签或标签稀缺的环境中学习有效的表示。CPC算法则是自监督强化学习中的一种重要算法，它通过对比学习（Contrastive Learning）来提取全局特征，帮助智能体学习有用的状态表示。CPC算法由DeepMind提出，旨在减少无监督学习中对标签的依赖，同时最大化局部信息和全局特征之间的关联。
【机器学习导引】ch5-神经网络
11-02 776
这部分课件展示了如何通过梯度更新权重来纠正分类错误。其核心思想是：当模型错误地预测时，利用标签信息。
基于java的贝儿米幼儿教育管理系统答辩PPT.pptx
11-04
基于java的贝儿米幼儿教育管理系统答辩PPT.pptx
课设毕设基于SpringBoot+Vue的养老院管理系统的设计与实现源码可运行.zip
11-04
本压缩包资源说明，你现在往下拉可以看到压缩包内容目录 我是批量上传的基于SpringBoot+Vue的项目，所以描述都一样；有源码有数据库脚本，系统都是测试过可运行的，看文件名即可区分项目~ ｜Java｜SpringBoot｜Vue｜前后端分离｜ 开发语言：Java 框架：SpringBoot，Vue JDK版本：JDK1.8 数据库：MySQL 5.7+（推荐5.7，8.0也可以） 数据库工具：Navicat 开发软件： idea/eclipse（推荐idea） Maven包：Maven3.3.9+ 系统环境：Windows/Mac
基于java的消防物资存储系统答辩PPT.pptx
11-04
基于java的消防物资存储系统答辩PPT.pptx
【java毕业设计】饮食营养管理信息系统源码（springboot+vue+mysql+说明文档）.zip
11-04
项目经过测试均可完美运行！ 环境说明： 开发语言：java jdk：jdk1.8 数据库：mysql 5.7+ 数据库工具：Navicat11+ 管理工具：maven 开发工具：idea/eclipse
【java毕业设计】酷听音乐源码（springboot+vue+mysql+说明文档）.zip
11-04
项目经过测试均可完美运行！ 环境说明： 开发语言：java jdk：jdk1.8 数据库：mysql 5.7+ 数据库工具：Navicat11+ 管理工具：maven 开发工具：idea/eclipse
TA_Lib轮子无需编译-TA_Lib-0.4.19-cp38-cp38-linux_armv7l.whl.zip
最新发布
11-04
TA_lib库（whl轮子），直接pip install安装即可，下载即用，非常方便，各个python版本对应的都有。 使用方法： 1、下载下来解压； 2、确保有python环境，命令行进入终端，cd到whl存放的目录，直接输入pip install TA_lib-xxxx.whl就可以安装，等待安装成功，即可使用！ 优点：无需C++环境编译，下载即用，方便
pc-dmis软件脚本-输出Excel格式报告
11-04
使用软件自带的basic脚本编辑制作的脚本 低版本软件无法输出Excel报告，可以通过脚本方式实现这一功能
GNN-Transformer
09-14
GNN-Transformer是一种结合了图神经网络（Graph Neural Network）和Transformer的模型。在图神经网络中，将一个句子看作是一个全连接图，其中的每个词都与其他词相连。而Transformer是一种基于自注意力机制的神经...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值